機(jī)器學(xué)習(xí)觀止：核心原理與實(shí)踐

目 錄

機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí)篇

第1章 人工智能概述 002
1.1 人工智能的定義 002
1.2 人工智能發(fā)展簡(jiǎn)史 003
1.3 人工智能經(jīng)典流派 016
1.4 人工智能與機(jī)器學(xué)習(xí) 027
1.5 如何選擇機(jī)器學(xué)習(xí)算法 029
1.6 機(jī)器學(xué)習(xí)的典型應(yīng)用場(chǎng)景 032
1.7 本書(shū)的組織結(jié)構(gòu) 043

第2章 機(jī)器學(xué)習(xí)中的數(shù)學(xué)基礎(chǔ) 045
2.1 微分學(xué) 045
2.2 線性代數(shù) 047
2.3 概率論 060
2.4 統(tǒng)計(jì)學(xué) 065
2.5 最優(yōu)化理論 068
2.6 其他 088

第3章 機(jī)器學(xué)習(xí)模型的度量指標(biāo) 099
3.1 Precision、Recall和mAP 099
3.2 F1 Score 101
3.3 混淆矩陣 102
3.4 ROC 103
3.5 AUC 105
3.6 PRC 107
3.7 工業(yè)界使用的典型AI指標(biāo) 108

經(jīng)典機(jī)器學(xué)習(xí)篇

第4章 回歸算法 112
4.1 回歸分析 112
4.2 線性回歸 112
4.3 邏輯回歸 115

第5章 K-NN算法 122
5.1 K-NN概述 122
5.2 K-NN分類(lèi)算法 123
5.3 K-NN回歸算法 124
5.4 K-NN的優(yōu)缺點(diǎn) 125
5.5 K-NN工程范例 126

第6章 k-means 129
6.1 k-means概述 129
6.2 k-means核心算法 129
6.3 k-means算法的優(yōu)缺點(diǎn) 131
6.4 k-means工程范例 132

第7章 樸素貝葉斯 135
7.1 樸素貝葉斯分類(lèi)算法 135
7.2 樸素貝葉斯的實(shí)際應(yīng)用 137

第8章 決策樹(shù)和隨機(jī)森林 141
8.1 決策樹(shù) 141
8.2 隨機(jī)森林 146

第9章 支持向量機(jī) 149
9.1 SVM可以做什么 149
9.2 SVM的數(shù)學(xué)表述 151
9.4 硬間隔SVM 174
9.5 軟間隔SVM 177
9.6 核函數(shù)技巧 182
9.7 多分類(lèi)SVM 187
9.8 SVM實(shí)踐 193

第10章 PCA降維 196
10.1 降維概述 196
10.2 PCA降維實(shí)現(xiàn)原理 197
10.3 PCA實(shí)例 200

第11章 集成學(xué)習(xí) 202
11.1 集成學(xué)習(xí)概述 202
11.2 集成學(xué)習(xí)架構(gòu) 203
11.3 典型的集成方法 206

深度學(xué)習(xí)進(jìn)階篇

第12章 深度神經(jīng)網(wǎng)絡(luò) 212
12.1 神經(jīng)元 212
12.2 激活函數(shù) 214
12.4 損失函數(shù) 224

第13章 卷積神經(jīng)網(wǎng)絡(luò) 232
13.1 CNN發(fā)展歷史簡(jiǎn)述 232
13.2 CNN的核心組成元素 233
13.3 CNN經(jīng)典框架 237
13.4 CNN的典型特性 249

第14章 RNN與LSTM 256
14.1 RNN 256
14.2 RNN的多種形態(tài) 257
14.3 RNN存在的不足 258
14.4 LSTM 259
14.5 LSTM核心框架 259
14.6 GRU 263

第15章 深度強(qiáng)化學(xué)習(xí) 265
15.1 強(qiáng)化學(xué)習(xí)和MDP 265
15.2 MDP問(wèn)題的解決方案分類(lèi) 268
15.3 基于模型的動(dòng)態(tài)規(guī)劃算法 269
15.4 基于無(wú)模型的強(qiáng)化學(xué)習(xí)算法 272
15.5 DQN 278
15.6 基于策略的強(qiáng)化學(xué)習(xí)算法 280

第16章 MCTS 285
16.1 MCTS概述 285
16.2 MCTS算法核心處理過(guò)程 286
16.3 UCB和UCT 286
16.4 MCTS實(shí)例解析 288

機(jī)器學(xué)習(xí)應(yīng)用實(shí)踐及相關(guān)原理

第17章 數(shù)據(jù)集的建設(shè) 292
17.1 數(shù)據(jù)集建設(shè)的核心目標(biāo) 292
17.2 數(shù)據(jù)采集和標(biāo)注 294
17.3 數(shù)據(jù)分析和處理 299

第18章 CNN訓(xùn)練技巧 304
18.1 數(shù)據(jù)預(yù)處理 304
18.2 數(shù)據(jù)增強(qiáng) 308
18.3 CNN核心組件擇優(yōu) 309
18.4 參數(shù)初始化策略 310
18.5 模型過(guò)擬合解決方法 319
18.6 模型的可解釋性 328
18.7 Auto ML 346

第19章 CV和視覺(jué)識(shí)別經(jīng)典模型 348
19.1 CV發(fā)展簡(jiǎn)史 348
19.2 視覺(jué)識(shí)別概述 353
19.3 R-CNN 359
19.4 Fast R-CNN 364
19.5 SPP-Net 365
19.6 Faster R-CNN 368
19.7 YOLO 375
19.8 SSD 383
19.9 不基于CNN來(lái)實(shí)現(xiàn)目標(biāo)識(shí)別 390

第20章 自然語(yǔ)言處理和CNN 397
20.1 NLP簡(jiǎn)述 397
20.2 NLP發(fā)展歷史 399
20.3 自然語(yǔ)言基礎(chǔ) 400
20.4 詞的表達(dá)方式 403
20.5 自然語(yǔ)言模型 405
20.6 word2vec 416
20.6.1 word2vec簡(jiǎn)介 416
20.7 常用語(yǔ)料庫(kù) 420
20.8 NLP應(yīng)用：文本分類(lèi) 424

第21章 自然語(yǔ)言處理和CNN 430
21.1 應(yīng)用程序場(chǎng)景識(shí)別背景 430
21.2 特征向量 431
21.3 數(shù)據(jù)采集 432
21.4 算法模型 433
21.5 落地應(yīng)用 433

第22章 軟件自動(dòng)修復(fù) 436
22.1 什么是軟件自動(dòng)修復(fù) 436
22.2 軟件自動(dòng)修復(fù)基礎(chǔ)知識(shí) 437
22.3 階段1：缺陷定位 441
22.4 階段2：補(bǔ)丁生成 458
22.5 APR領(lǐng)域經(jīng)典框架 462

第23章 基于強(qiáng)化學(xué)習(xí)的經(jīng)典應(yīng)用—AlphaGO 479
23.1 AlphaGO簡(jiǎn)述 479
23.2 AlphaGO核心原理 480
23.3 策略網(wǎng)絡(luò) 481
23.4 估值網(wǎng)絡(luò) 483
23.5 MCTS 483

機(jī)器學(xué)習(xí)平臺(tái)篇

第24章 分布式機(jī)器學(xué)習(xí)框架基礎(chǔ)知識(shí) 488
24.1 分布式機(jī)器學(xué)習(xí)核心理念 488
24.2 GPU硬件設(shè)備 491
24.3 網(wǎng)絡(luò)標(biāo)準(zhǔn) 498
24.4 分布式通信框架 500
24.5 經(jīng)典分布式ML框架Caffe-MPI 511

第25章 Tensorflow 514
25.1 Tensorflow安裝過(guò)程 514
25.2 Tensorflow基礎(chǔ)知識(shí) 516
25.3 Tensorflow分布式訓(xùn)練 533
25.4 Tensorflow分布式部署 549
25.5 Tensorflow范例解析 560
25.6 Tensorflow的“變種” 563

第26章 Caffe 568
26.1 Caffe的安裝 568
26.2 Caffe支持的數(shù)據(jù)集格式 587
26.3 Caffe中的網(wǎng)絡(luò)模型構(gòu)建 594
26.4 Google Protocol Buffer 598
26.5 Caffe2源碼結(jié)構(gòu) 600
26.6 Caffe工程范例 601
26.7 Caffe中的Model Zoo 607

第27章 scikit-learn 609
27.1 scikit-learn的安裝 610
27.2 scikit-learn中的機(jī)器學(xué)習(xí)算法 610
27.3 scikit-learn中的Model selection 613
27.4 scikit-learn中的預(yù)處理 619

第28章 主流AI云平臺(tái) 628
28.1 Microsoft OpenPAI 628
28.2 Google Cloud 631
28.3 Baidu 631
28.4 Alibaba 637

第29章 圖像處理基礎(chǔ) 650
29.1 光、色彩和人類(lèi)視覺(jué)系統(tǒng) 650
29.2 圖像的顏色模型 653
29.3 圖像的基本屬性 655
29.4 圖像特征 659
29.5 圖像的典型特征描述子 661
29.6 圖像處理實(shí)例(圖像質(zhì)量檢測(cè)) 690

第30章 程序切片技術(shù) 693
30.1 程序切片綜述 693
30.2 程序切片基礎(chǔ)知識(shí) 695
30.3 靜態(tài)切片技術(shù) 715
30.4 動(dòng)態(tài)切片技術(shù) 721

第31章 業(yè)界主流數(shù)據(jù)集分析 726
31.1 ImageNet簡(jiǎn)述 726
31.2 ImageNet的構(gòu)建邏輯 726
31.3 ImageNet數(shù)據(jù)源的選擇與處理 730
31.4 ImageNet的下載 733

參考文獻(xiàn) 736