大數據應用分析技術與方法

第1章大數據是信息社會的寶貴資源1
1.1大數據產生的背景和概念1
1.2大數據的特征3
1.3大數據與傳統(tǒng)數據的區(qū)別4
1.4大數據的價值和開發(fā)應用5
1.5大數據時代的新機遇和新挑戰(zhàn)8
1.5.1依據大數據進行決策成為一種新的決策方式8
1.5.2大數據與各行業(yè)深度融合帶來層出不窮的新應用8
1.5.3大數據推動新技術的不斷涌現9
1.6本書的特定視野10
參考文獻11第2章大數據應用分析12
2.1大數據的處理流程12
2.2大數據分析的概念14
2.3大數據分析的關鍵技術15
2.3.1云計算15
2.3.2數據分析方法16
2.3.3數據可視化17
2.4大數據分析工具介紹17
2.4.1Hadoop18
2.4.2R19
2.4.3Python19
2.4.4RapidMiner20
2.4.5Tableau20
2.5大數據分析示例——查處虛假出口貿易22
2.5.1案例概述22
2.5.2查詢分析23
2.5.3可視化分析25
2.5.4分析小結27
參考文獻30第3章常用數據分析與預測方法31
3.1方差分析31
3.1.1分析方法31
3.1.2示例介紹31
3.1.3示例分析33
3.1.4結果分析與總結35
3.2相關分析35
3.2.1分析方法35
3.2.2示例介紹36
3.2.3示例分析37
3.2.4結果分析與總結40
3.3回歸分析40
3.3.1分析方法40
3.3.2示例介紹41
3.3.3示例分析41
3.3.4結果分析與總結42
3.4時間序列分析44
3.4.1平穩(wěn)性檢驗44
3.4.2純隨機性檢驗44
3.4.3適用性檢測44
3.5聚類分析45
3.6可視化數據分析46
3.6.1常用的可視化數據展示方法47
3.6.2可視化分析示例51
3.7環(huán)境準備61
參考文獻62第4章大數據分析的思維特征63
4.1大數據應用分析的實務框架63
4.1.1大數據應用分析的四個層面63
4.1.2四個層面的關系65
4.2大數據分析的特征發(fā)現65
4.2.1特征發(fā)現的案例66
4.2.2特征發(fā)現的概念73
4.3對數據的分類73
4.4特征發(fā)現的一般過程79
參考文獻81第5章大數據的可視化分析82
5.1不良貸款分析82
5.1.1數據準備82
5.1.2各銀行的不良貸款情況分析86
5.1.3各經濟類型的企業(yè)的不良貸款情況分析95
5.1.4各類貸款的不良貸款情況分析99
5.2保險公司客戶索賠分析103
5.2.1數據準備103
5.2.2數據分析104
參考文獻119第6章可視化挖掘分析120
6.1挖掘分析在審計線索特征發(fā)現中的應用120
6.1.1案例背景120
6.1.2數據準備120
6.1.3聚類分析122
6.2挖掘分析在推薦系統(tǒng)中的應用131
6.2.1案例背景131
6.2.2數據準備131
6.2.3構建推薦系統(tǒng)132第7章大數據資源的元數據管理140
7.1元數據簡介140
7.1.1元數據和對象數據140
7.1.2應用元數據管理技術的意義140
7.2著錄對象分析142
7.2.1審計中間表142
7.2.2審計分析模型142
7.2.3審計專家經驗143
7.2.4審計情景案例144
7.2.5被審計單位資料144
7.3元數據結構設計145
7.3.1審計中間表的元數據結構145
7.3.2審計分析模型的元數據結構146
7.3.3審計專家經驗的元數據結構147
7.3.4審計情景案例的元數據結構149
7.3.5被審計單位資料的元數據結構150
7.4應用大數據審計分析數字信息元數據規(guī)范的擴展規(guī)則151
參考文獻152第8章大數據分析的數據清洗153
8.1大數據清洗的基本概念153
8.1.1大數據清洗的基本架構153
8.1.2數據清洗的基本步驟154
8.2數據清洗157
8.2.1數據清洗的一些注意事項157
8.2.2常見的數據清洗158
參考文獻163第9章大數據分析的風險與對策164
9.1大數據分析的風險及產生原因164
9.2大數據采集的風險165
9.3大數據處理與集成的風險167
9.4大數據分析的風險168
9.5大數據解釋的風險168
9.6大數據的隱私和安全風險及其對策169
9.6.1大數據處理流程的隱私風險170
9.6.2大數據處理平臺帶來的安全和隱私風險172
9.6.3保護大數據隱私和安全的對策173
參考文獻175第10章大數據治理簡介177
10.1大數據治理的必要性177
10.2大數據治理的概念178
10.3大數據治理的核心內容180
10.4案例181
10.4.1工作思路182
10.4.2數據真實性的驗證方法182
10.4.3數據完整性的驗證186
參考文獻187附錄ATableau 10.0簡介188
A.1Tableau工作區(qū)188
A.1.1工作表工作區(qū)189
A.1.2儀表板工作區(qū)190
A.1.3故事工作區(qū)191
A.2Tableau的文件管理192附錄BRapidMiner使用方法簡介194
B.1RapidMiner的主界面194
B.2使用RapidMiner分析數據的方法195