統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)

譯者序
前言
第1章引言：分類(lèi)、學(xué)習(xí)、
特征及應(yīng)用
1.1范圍
1.2為什么需要機(jī)器學(xué)習(xí)？
1.3一些應(yīng)用
1.3.1圖像識(shí)別
1.3.2語(yǔ)音識(shí)別
1.3.3醫(yī)學(xué)診斷
1.3.4統(tǒng)計(jì)套利
1.4測(cè)量、特征和特征向量
1.5概率的需要
1.6監(jiān)督學(xué)習(xí)
1.7小結(jié)
1.8附錄：歸納法
1.9問(wèn)題
1.10參考文獻(xiàn)
第2章概率
2.1一些基本事件的概率
2.2復(fù)合事件的概率
2.3條件概率
2.4不放回抽取
2.5一個(gè)經(jīng)典的生日問(wèn)題
2.6隨機(jī)變量
2.7期望值
2.8方差
2.9小結(jié)
2.10附錄：概率詮釋
2.11問(wèn)題
2.12參考文獻(xiàn)
第3章概率密度
3.1一個(gè)二維實(shí)例
3.2在\\[0,1\\]區(qū)間的隨機(jī)數(shù)
3.3密度函數(shù)
3.4高維空間中的概率密度
3.5聯(lián)合密度和條件密度
3.6期望和方差
3.7大數(shù)定律
3.8小結(jié)
3.9附錄:可測(cè)性
3.10問(wèn)題
3.11參考文獻(xiàn)
第4章模式識(shí)別問(wèn)題
4.1一個(gè)簡(jiǎn)單例子
4.2決策規(guī)則
4.3成功基準(zhǔn)
4.4最佳分類(lèi)器：貝葉斯決策
規(guī)則
4.5連續(xù)特征和密度
4.6小結(jié)
4.7附錄：不可數(shù)概念
4.8問(wèn)題
4.9參考文獻(xiàn)
第5章最優(yōu)貝葉斯決策規(guī)則
5.1貝葉斯定理
5.2貝葉斯決策規(guī)則
5.3最優(yōu)及其評(píng)論
5.4一個(gè)例子
5.5基于密度函數(shù)的貝葉斯定理
及決策規(guī)則
5.6小結(jié)
5.7附錄：條件概率的定義
5.8問(wèn)題
5.9參考文獻(xiàn)
第6章從實(shí)例中學(xué)習(xí)
6.1概率分布知識(shí)的欠缺
6.2訓(xùn)練數(shù)據(jù)
6.3對(duì)訓(xùn)練數(shù)據(jù)的假設(shè)
6.4蠻力學(xué)習(xí)方法
6.5維數(shù)災(zāi)難、歸納偏置以及
無(wú)免費(fèi)午餐原理
6.6小結(jié)
6.7附錄:學(xué)習(xí)的類(lèi)型
6.8問(wèn)題
6.9參考文獻(xiàn)
第7章最近鄰規(guī)則
7.1最近鄰規(guī)則
7.2最近鄰規(guī)則的性能
7.3直覺(jué)判斷與性能證明框架
7.4使用更多鄰域
7.5小結(jié)
7.6附錄:當(dāng)人們使用最近鄰域
進(jìn)行推理時(shí)的一些問(wèn)題
7.6.1誰(shuí)是單身漢?
7.6.2法律推理
7.6.3道德推理
7.7問(wèn)題
7.8參考文獻(xiàn)
第8章核規(guī)則
8.1動(dòng)機(jī)
8.2最近鄰規(guī)則的變體
8.3核規(guī)則
8.4核規(guī)則的通用一致性
8.5勢(shì)函數(shù)
8.6更多的通用核
8.7小結(jié)
8.8附錄：核、相似性和特征
8.9問(wèn)題
8.10參考文獻(xiàn)
第9章神經(jīng)網(wǎng)絡(luò):感知器
9.1多層前饋網(wǎng)絡(luò)
9.2神經(jīng)網(wǎng)絡(luò)用于學(xué)習(xí)和分類(lèi)
9.3感知器
9.3.1閾值
9.4感知器學(xué)習(xí)規(guī)則
9.5感知器的表達(dá)能力
9.6小結(jié)
9.7附錄：思想模型
9.8問(wèn)題
9.9參考文獻(xiàn)
第10章多層神經(jīng)網(wǎng)絡(luò)
10.1多層網(wǎng)絡(luò)的表征能力
10.2學(xué)習(xí)及S形輸出
10.3訓(xùn)練誤差和權(quán)值空間
10.4基于梯度下降的誤差最小化
10.5反向傳播
10.6反向傳播方程的推導(dǎo)
10.6.1單神經(jīng)元情況下的推導(dǎo)
10.6.2多層網(wǎng)絡(luò)情況下的推導(dǎo)
10.7小結(jié)
10.8附錄:梯度下降與反射平衡
推理
10.9問(wèn)題
10.10參考文獻(xiàn)
第11章可能近似正確（PAC）
學(xué)習(xí)
11.1決策規(guī)則分類(lèi)
11.2來(lái)自一個(gè)類(lèi)中的最優(yōu)規(guī)則
11.3可能近似正確準(zhǔn)則
11.4PAC學(xué)習(xí)
11.5小結(jié)
11.6附錄：識(shí)別不可辨元
11.7問(wèn)題
11.8參考文獻(xiàn)
第12章VC維
12.1近似誤差和估計(jì)誤差
12.2打散
12.3VC維
12.4學(xué)習(xí)結(jié)果
12.5舉例
12.6神經(jīng)網(wǎng)絡(luò)應(yīng)用
12.7小結(jié)
12.8附錄:VC維與波普爾
（Popper）維度
12.9問(wèn)題
12.10參考文獻(xiàn)
第13章無(wú)限VC維
13.1類(lèi)層次及修正的PAC準(zhǔn)則
13.2失配與復(fù)雜性間的平衡
13.3學(xué)習(xí)結(jié)果
13.4歸納偏置與簡(jiǎn)單性
13.5小結(jié)
13.6附錄：均勻收斂與泛
致性
13.7問(wèn)題
13.8參考文獻(xiàn)
第14章函數(shù)估計(jì)問(wèn)題
14.1估計(jì)
14.2成功準(zhǔn)則
14.3最優(yōu)估計(jì)：回歸函數(shù)
14.4函數(shù)估計(jì)中的學(xué)習(xí)
14.5小結(jié)
14.6附錄：均值回歸
14.7問(wèn)題
14.8參考文獻(xiàn)
第15章學(xué)習(xí)函數(shù)估計(jì)
15.1函數(shù)估計(jì)與回歸問(wèn)題回顧
15.2最近鄰規(guī)則
15.3核方法
15.4神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)
15.5基于確定函數(shù)類(lèi)的估計(jì)
15.6打散、偽維數(shù)與學(xué)習(xí)
15.7結(jié)論
15.8附錄：估計(jì)中的準(zhǔn)確度、
精度、偏差及方差
15.9問(wèn)題
15.10參考文獻(xiàn)
第16章簡(jiǎn)明性
16.1科學(xué)中的簡(jiǎn)明性
16.1.1對(duì)簡(jiǎn)明性的明確倡導(dǎo)
16.1.2這個(gè)世界簡(jiǎn)單嗎?
16.1.3對(duì)簡(jiǎn)明性的錯(cuò)誤訴求
16.1.4對(duì)簡(jiǎn)明性的隱性訴求
16.2排序假設(shè)
16.2.1兩種簡(jiǎn)明性排序法
16.3兩個(gè)實(shí)例
16.3.1曲線擬合
16.3.2枚舉歸納
16.4簡(jiǎn)明性即表征簡(jiǎn)明性
16.4.1要確定表征系統(tǒng)嗎?
16.4.2參數(shù)越少越簡(jiǎn)單嗎?
16.5簡(jiǎn)明性的實(shí)用理論
16.6簡(jiǎn)明性和全局不確定性
16.7小結(jié)
16.8附錄:基礎(chǔ)科學(xué)和統(tǒng)計(jì)學(xué)習(xí)
理論
16.9問(wèn)題
16.10參考文獻(xiàn)
第17章支持向量機(jī)
17.1特征向量的映射
17.2間隔最大化
17.3優(yōu)化與支持向量
17.4實(shí)現(xiàn)及其與核方法的關(guān)聯(lián)
17.5優(yōu)化問(wèn)題的細(xì)節(jié)
17.5.1改寫(xiě)分離條件
17.5.2間隔方程
17.5.3用于不可分實(shí)例的松弛
變量
17.5.4優(yōu)化問(wèn)題的重構(gòu)和求解
17.6小結(jié)
17.7附錄:計(jì)算
17.8問(wèn)題
17.9參考文獻(xiàn)
第18章集成學(xué)習(xí)
18.1弱學(xué)習(xí)規(guī)則
18.2分類(lèi)器組合
18.3訓(xùn)練樣本的分布
18.4自適應(yīng)集成學(xué)習(xí)算法
（AdaBoost）
18.5訓(xùn)練數(shù)據(jù)的性能
18.6泛化性能
18.7小結(jié)
18.8附錄：集成方法
18.9問(wèn)題
18.10參考文獻(xiàn)