機器學(xué)習(xí)：因子分解機模型與推薦系統(tǒng)

目 錄
前言
第1章 緒論 1
1.1 預(yù)測和推薦問題描述 1
1.2 研究意義 3
1.3 國內(nèi)外研究現(xiàn)狀及發(fā)展動態(tài) 4
1.3.1 數(shù)據(jù)稀疏性和冷啟動問題 5
1.3.2 用戶偏好和物品流行度動態(tài)建模 6
1.3.3 大數(shù)據(jù)處理和模型的擴展性 7
1.3.4 多樣性和準確性平衡問題 8
1.4 本書組織結(jié)構(gòu) 9
第2章 FM模型及其擴展 12
2.1 邏輯回歸模型 12
2.2 基于因子分解的多項式回歸模型 13
2.3 FM模型 14
2.4 FM模型與矩陣分解模型的轉(zhuǎn)化 15
2.4.1 矩陣分解模型 15
2.4.2 FM模型轉(zhuǎn)化為矩陣分解模型 16
2.5 FM模型的高階擴展 17
2.6 FM模型的場交互擴展 18
2.7 FM模型的層次交互擴展 19
2.8 FM模型與其他模型的集成 20
2.9 本章小結(jié) 22
笫3章 特征工程及其對FM模型的影響 23
3.1 屬性、特征、特征向量和數(shù)據(jù)集 23
3.2 特征工程 24
3.3 特征的來源 25
3.4 FM模型相關(guān)研究中的特征工程 27
3.5 FM模型的應(yīng)用領(lǐng)域 30
3.6 本章小結(jié) 32
第4章 模型訓(xùn)練方法 33
4.1 預(yù)測和推薦模型的目標優(yōu)化 33
4.2 模型訓(xùn)練方式 34
4.2.1 擬牛頓法 34
4.2.2 SGD系列算法 35
4.2.3 Gibbs采樣算法 37
4.3 激活函數(shù) 38
4.4 過擬合問題 39
4.4.1 正則化方式 40
4.4.2 批規(guī)范化 41
4.4.3 Dropout及相關(guān)優(yōu)化方法 42
4.5 本章小結(jié) 44
第5章 智能化場感知分解機 45
5.1 算法改進思路 45
5.2 iFFM模型 46
5.3 多樣性處理 48
5.3.1 熱擴散算法 48
5.3.2 兩個模型的集成 50
5.4 實驗結(jié)果與分析 50
5.4.1 實驗環(huán)境 50
5.4.2 實驗結(jié)果 51
5.5 本章小結(jié) 54
第6章 廣義場感知分解機 55
6.1 模型改進思路 55
6.2 咐間因子 57
6.3 動態(tài)模型構(gòu)建 58
6.4 GFFM模型評價 60
6.4.1 實驗設(shè)置 60
6.4.2 實驗結(jié)果及分析 62
6.5 本章小結(jié) 64
第7章 FM模型與深度學(xué)習(xí)模型的集成 65
7.1 FNN模型 65
7.2 Wide&Deep模型 66
7.3 Deep&Cross模型 67
7.4 DeepFM模型 68
7.5 NFM與AFM模型 68
7.6 寬度和深度學(xué)習(xí)模型集成方式分析 69
7.7 本章小結(jié) 70
第8章 基于稠密網(wǎng)絡(luò)的廣義場感知分解機 71
8.1 ResNet和DenseNet 71
8.2 DGFFM模型 73
8.2.1 Wide&Deep結(jié)構(gòu) 73
8.2.2 FNN結(jié)構(gòu) 74
8.3 DGFFM模型評價 75
8.3.1 實驗設(shè)置 75
8.3.2 實驗結(jié)果及分析 75
8.4 本章小結(jié) 76
第9章 FM模型實現(xiàn)庫及并行化處理 77
9.1 libFM 一 77
9.1.1 libFM中核心類之間的關(guān)系 77
9.1.2 fm一learn類代碼解析 78
9.2 FM的其他實現(xiàn)庫 83
9.2.1 libFFM 83
9.2.2 fastFM 83
9.3 FM模型的其他優(yōu)化方法 83
9.4 FM模型的并行實現(xiàn) 84
9.5 本章小結(jié) 87
第10章 時尚電商領(lǐng)域的推薦系統(tǒng)研究 88
10.1 深度學(xué)習(xí)為時尚推薦研究帶來新思路 88
10.2 大數(shù)據(jù)環(huán)境下時尚電商推薦系統(tǒng)框架及面臨的問題 89
10.3 融合視覺特征的推薦系統(tǒng)研究內(nèi)容 90
10.3.1 融合非視覺屬性與視覺特征及其時空動態(tài)性的推薦模型研究 91
10.3.2 面向大規(guī)模數(shù)據(jù)的并行化模型訓(xùn)練算法與技術(shù)研究 92
10.3.3 在線推薦引擎研究 92
10.4 關(guān)鍵問題 93
10.4.1 基于視覺特征的時空動態(tài)建模 93
10.4.2 模型訓(xùn)練的優(yōu)化問題 93
10.4.3 推薦引擎的實時處理 93
10.5 相關(guān)技術(shù) 94
10.5.1 基于深度卷積神經(jīng)網(wǎng)絡(luò)的視覺特征提取方法 94
10.5.2 基于iFFM模型的非視覺屬性建模 95
10.5.3 基于VBPR的視覺特征建模 96
10.5.4 基于馬爾可夫鏈的時間序列預(yù)測 96
10.5.5 基于SGD算法的模型訓(xùn)練方法 97
10.5.6 基于TensorFlow的并行算法實現(xiàn) 98
10.6 本章小結(jié) 98
第11章 一個N-階段購買決策模型 100
11.1 研究背景 100
11.2 特征處理與Wide&Deep plus框架 101
11.3 NSPD模型及其優(yōu)化 102
11.4 實驗與結(jié)果評價 105
11.4.1 數(shù)據(jù)集 105
11.4.2 評價指標 106
11.4.3 算法實現(xiàn) 106
11.4.4 實驗結(jié)果 106
11.5 本章小結(jié) 108
參考文獻 109