TensorFlow深度學習應用開發(fā)實戰(zhàn)

目錄
任務1深度學習簡介與開發(fā)環(huán)境搭建1
1.1深度學習的發(fā)展及應用1
1.1.1深度學習的發(fā)展歷程1
1.1.2深度學習的應用領(lǐng)域4
1.2深度學習框架簡介7
1.2.1TensorFlow7
1.2.2Caffe8
1.2.3PyTorch8
1.2.4MXNet8
1.2.5不同框架的對比9
1.3開發(fā)環(huán)境搭建9
1.3.1Windows環(huán)境下的安裝配置9
1.3.2Linux環(huán)境下的安裝配置20
1.4本章小結(jié)25
1.5本章習題26
任務2構(gòu)建二維數(shù)據(jù)擬合模型28
2.1TensorFlow運行機制28
2.1.1TensorFlow系統(tǒng)架構(gòu)29
2.1.2構(gòu)建計算圖30
2.1.3在會話中運行計算圖31
2.1.4指定GPU設(shè)備34
2.2TensorFlow數(shù)據(jù)模型35
2.2.1張量及屬性35
2.2.2類型轉(zhuǎn)換38
2.2.3形狀變換39
2.3變量的定義與使用40
2.3.1變量的定義與初始化40
2.3.2隨機初始化變量41
2.3.3獲取變量42
2.3.4共享變量43
2.4占位符與數(shù)據(jù)喂入機制44
2.4.1占位符定義44
2.4.2數(shù)據(jù)喂入45
2.5模型的保存與恢復45
2.5.1模型保存45
2.5.2模型恢復47
2.6構(gòu)建二維數(shù)據(jù)擬合模型48
2.6.1準備數(shù)據(jù)48
2.6.2搭建模型49
2.6.3反向傳播49
2.6.4迭代訓練50
2.6.5使用模型51
2.7本章小結(jié)51
2.8本章習題52
任務3構(gòu)建泰坦尼克號生還率模型55
3.1M-P神經(jīng)元擬合原理55
3.1.1M-P神經(jīng)元模型55
3.1.2訓練神經(jīng)元58
3.2激活函數(shù)實現(xiàn)神經(jīng)元非線化59
3.2.1激活函數(shù)的作用59
3.2.2Sigmoid激活函數(shù)59
3.2.3Tanh激活函數(shù)61
3.2.4Relu激活函數(shù)62
3.3BP神經(jīng)網(wǎng)絡(luò)模型63
3.3.1BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)64
3.3.2神經(jīng)網(wǎng)絡(luò)向前傳輸推導65
3.3.3神經(jīng)網(wǎng)絡(luò)向前傳輸實踐67
3.3.4構(gòu)建BP神經(jīng)網(wǎng)絡(luò)模型68
3.4損失函數(shù)調(diào)整誤差71
3.4.1交叉熵損失函數(shù)71
3.4.2均方誤差損失函數(shù)72
3.5梯度下降72
3.5.1梯度下降的作用及常用方法72
3.5.2梯度下降使模型最小偏差實踐74
3.6模型優(yōu)化75
3.6.1學習率控制參數(shù)更新速度75
3.6.2正則化減少過擬合現(xiàn)象76
3.7構(gòu)建泰坦尼克號生還率模型80
3.7.1數(shù)據(jù)讀取及預處理80
3.7.2搭建向前傳輸過程82
3.7.3迭代訓練82
3.8本章小結(jié)83
3.9本章習題83
任務4構(gòu)建手寫字識別模型86
4.1MNIST數(shù)據(jù)集86
4.1.1MNIST數(shù)據(jù)集簡介86
4.1.2下載MNIST數(shù)據(jù)集88
4.1.3圖像的矩陣表示89
4.1.4標簽的獨熱表示90
4.2構(gòu)建識別MNIST模型91
4.2.1MNIST手寫字模型簡介91
4.2.2定義模型節(jié)點參數(shù)92
4.2.3網(wǎng)絡(luò)向前傳輸過程93
4.2.4網(wǎng)絡(luò)參數(shù)優(yōu)化94
4.2.5訓練并保存模型95
4.3模型驗證96
4.3.1驗證集驗證模型96
4.3.2識別自定義圖片97
4.4本章小結(jié)100
4.5本章習題100
任務5LeNet-5模型識別手寫字102
5.1卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)特征102
5.1.1卷積神經(jīng)網(wǎng)絡(luò)簡介102
5.1.2卷積物理含義104
5.1.3網(wǎng)絡(luò)結(jié)構(gòu)特征106
5.2卷積神經(jīng)網(wǎng)絡(luò)函數(shù)108
5.2.1卷積操作108
5.2.2池化操作112
5.2.3DropOut機制116
5.3卷積高級操作118
5.3.1多通道卷積118
5.3.2多卷積核120
5.3.3反卷積122
5.4LeNet-5識別手寫字124
5.4.1LeNet-5模型簡介124
5.4.2構(gòu)建向前傳輸模型125
5.4.3優(yōu)化模型128
5.4.4訓練保存模型130
5.4.5驗證模型131
5.5本章小結(jié)132
5.6本章習題133
任務6打造CIFAR-10圖像識別模型136
6.1CIFAR-10數(shù)據(jù)集簡介136
6.1.1CIFAR-10數(shù)據(jù)集簡介136
6.1.2下載CIFAR-10數(shù)據(jù)集137
6.2讀取CIFAR-10數(shù)據(jù)138
6.2.1讀取并顯示圖片138
6.2.2將標簽表示成獨熱139
6.3數(shù)據(jù)增強140
6.3.1圖像幾何變換140
6.3.2圖像色彩調(diào)整144
6.3.3圖像的標準化146
6.3.4圖像標注147
6.4構(gòu)建CIFAR-10圖像識別模型149
6.4.1數(shù)據(jù)批量讀取149
6.4.2模型構(gòu)建150
6.4.3訓練并預測154
6.5ImageNet圖像識別模型155
6.5.1ImageNet數(shù)據(jù)集簡介155
6.5.2歷代ImageNet識別模型156
6.6本章小結(jié)158
6.7本章習題158
任務7可視化性別識別模型160
7.1在程序中使用TensorBoard160
7.1.1TensorBoard基本介紹160
7.1.2TensorBoard使用步驟161
7.2TensorBoard可視化163
7.2.1標量與直方圖可視化163
7.2.2卷積過程可視化167
7.2.3訓練過程可視化171
7.3可視化性別識別模型174
7.3.1模型簡介174
7.3.2讀取數(shù)據(jù)集175
7.3.3訓練模型176
7.3.4可視化模型179
7.4本章小結(jié)180
7.5本章習題180
任務8理解tf.data數(shù)據(jù)處理框架182
8.1Dataset的基本機制182
8.1.1Dataset數(shù)據(jù)處理框架182
8.1.2創(chuàng)建Dataset183
8.2Iterator迭代數(shù)據(jù)集184
8.2.1單次迭代器184
8.2.2可初始化迭代器185
8.2.3可重新初始化迭代器186
8.2.4可饋送迭代器187
8.3Dataset數(shù)據(jù)批處理188
8.3.1直接批處理188
8.3.2預處理后批處理189
8.4Dataset數(shù)據(jù)集構(gòu)建與解析190
8.4.1數(shù)據(jù)集預處理190
8.4.2構(gòu)建TFRecordDataset數(shù)據(jù)集191
8.4.3從tf.train.Example中解析數(shù)據(jù)192
8.5本章小結(jié)193
8.6本章習題194
附錄人工智能數(shù)學基礎(chǔ)196