目錄 第1章機器學(xué)習(xí)概述1 1.1學(xué)習(xí)中的元素2 1.2目標(biāo)函數(shù)的表示4 1.3機器學(xué)習(xí)系統(tǒng)的基本結(jié)構(gòu)6 1.4學(xué)習(xí)任務(wù)的類型7 1.5機器學(xué)習(xí)的定義和發(fā)展史9 1.6機器學(xué)習(xí)可完成的事11 1.7機器學(xué)習(xí)的成功案例13 習(xí)題16 第2章決策樹學(xué)習(xí)17 2.1決策樹的組成及分類17 2.2決策樹的構(gòu)造算法CLS18 2.3基本的決策樹算法ID320 2.4信息熵和信息增益及其案例21 2.5隨機森林及其應(yīng)用案例24 2.5.1隨機森林概述24 2.5.2隨機森林應(yīng)用案例27 2.6決策樹和隨機森林應(yīng)用概述29 2.6.1決策樹的應(yīng)用概述29 2.6.2隨機森林的應(yīng)用概述30 小結(jié)32 習(xí)題32 第3章多層感知器34 3.1神經(jīng)元模型34 3.2感知器及其學(xué)習(xí)規(guī)則35 3.3多層感知器38 3.4反向傳播算法39 目錄3.5反向傳播網(wǎng)絡(luò)的應(yīng)用概述45 3.6案例：基于反向傳播網(wǎng)絡(luò)擬合曲線46 小結(jié)52 習(xí)題53 第4章維度約簡55 4.1主成分分析55 4.2獨立成分分析58 4.3線性判別分析59 4.4局部線性嵌入62 4.5維度約簡算法應(yīng)用概述65 4.6案例分析66 4.6.1利用PCA對半導(dǎo)體制造數(shù)據(jù)降維66 4.6.2LDA降維——應(yīng)用于Wine葡萄酒數(shù)據(jù)集67 小結(jié)69 習(xí)題69 第5章支持向量機71 5.1線性可分模式的*優(yōu)超平面71 5.2不可分離模式的*優(yōu)超平面75 5.3用于模式識別的支持向量機的潛在思想78 5.4使用核方法的支持向量機78 5.5支持向量機的設(shè)計80 5.6支持向量機的應(yīng)用概述81 5.7支持向量機的示例83 小結(jié)86 習(xí)題87 第6章無監(jiān)督學(xué)習(xí)89 6.1聚類概述89 6.2Kmeans算法90 6.3DBSCAN算法92 6.4EM算法94 6.5關(guān)聯(lián)分析97 6.6競爭網(wǎng)絡(luò)99 6.6.1Hamming網(wǎng)絡(luò)100 6.6.2競爭學(xué)習(xí)及案例101 6.6.3自組織特征圖104 6.6.4學(xué)習(xí)向量量化107 6.7無監(jiān)督學(xué)習(xí)應(yīng)用概述109 6.8案例分析111 6.8.1使用K-means算法對用戶購物行為聚類和推薦111 6.8.2使用DBSCAN清洗GPS軌跡數(shù)據(jù)111 6.8.3高斯混合模型的EM聚類113 6.8.4學(xué)習(xí)向量量化解決分類問題114 小結(jié)116 習(xí)題116 第7章概率圖模型118 7.1貝葉斯網(wǎng)絡(luò)118 7.1.1貝葉斯基本公式119 7.1.2樸素貝葉斯分類器120 7.1.3貝葉斯網(wǎng)絡(luò)的拓撲結(jié)構(gòu)121 7.1.4條件獨立性假設(shè)121 7.1.5先驗概率的確定和網(wǎng)絡(luò)推理算法122 7.2馬爾可夫隨機場124 7.2.1馬爾可夫隨機場概念125 7.2.2馬爾可夫隨機場的因式分解126 7.3隱馬爾可夫模型128 7.4馬爾可夫鏈蒙特卡羅131 7.4.1蒙特卡羅積分131 7.4.2馬爾可夫鏈132 7.4.3馬爾可夫鏈蒙特卡羅132 7.5LDA主題提取模型136 7.6概率圖模型應(yīng)用概述138 7.7案例分析141 7.7.1樸素貝葉斯進行垃圾郵件過濾141 7.7.2前向后向算法求觀測序列概率142 7.7.3馬爾可夫鏈蒙特卡羅方法預(yù)測睡眠質(zhì)量144 7.7.4利用LDA對文本進行主題提取148 小結(jié)149 習(xí)題150 第8章強化學(xué)習(xí)151 8.1強化學(xué)習(xí)過程151 8.2馬爾可夫決策過程152 8.3Q-Learning156 8.4強化學(xué)習(xí)應(yīng)用概述159 8.5案例分析161 8.5.1使用馬爾可夫決策過程求解*優(yōu)策略162 8.5.2尋寶游戲163 小結(jié)164 習(xí)題165 第9章深度學(xué)習(xí)166 9.1深度學(xué)習(xí)概述166 9.2卷積神經(jīng)網(wǎng)絡(luò)169 9.2.1卷積層169 9.2.2池化層171 9.2.3卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)172 9.3循環(huán)神經(jīng)網(wǎng)絡(luò)172 9.3.1給網(wǎng)絡(luò)增加記憶能力173 9.3.2簡單循環(huán)網(wǎng)絡(luò)174 9.3.3應(yīng)用到機器學(xué)習(xí)175 9.3.4參數(shù)學(xué)習(xí)177 9.3.5基于門控的循環(huán)神經(jīng)網(wǎng)絡(luò)179 9.4深度信念網(wǎng)絡(luò)181 9.4.1玻爾茲曼機181 9.4.2受限玻爾茲曼機182 9.4.3深度信念網(wǎng)絡(luò)183 9.5深度生成模型185 9.5.1概率生成模型185 9.5.2變分自編碼器186 9.5.3生成對抗網(wǎng)絡(luò)188 9.5.4生成對抗網(wǎng)絡(luò)的應(yīng)用190 9.6深度學(xué)習(xí)應(yīng)用概述193 9.6.1文本194 9.6.2語音195 9.6.3計算機視覺196 9.7機器學(xué)習(xí)系統(tǒng)199 9.7.1主流機器學(xué)習(xí)系統(tǒng)的分類與介紹200 9.7.2主流深度學(xué)習(xí)框架系統(tǒng)介紹201 9.7.3新興機器學(xué)習(xí)系統(tǒng)203 9.8案例：深度學(xué)習(xí)在計算機視覺中的應(yīng)用204 小結(jié)210 習(xí)題210 附錄機器學(xué)習(xí)工具及資源推薦212 參考文獻217