第Ⅰ部分 可解釋基礎(chǔ)知識
第1章 導(dǎo)論 3
1.1　Diagnostics AI——AI系統(tǒng)示例 3
1.2 機(jī)器學(xué)習(xí)系統(tǒng)的類型 4
1.2.1　數(shù)據(jù)的表示 4
1.2.2　監(jiān)督學(xué)習(xí) 6
1.2.3　無監(jiān)督學(xué)習(xí) 7
1.2.4　強(qiáng)化學(xué)習(xí) 7
1.2.5　*適合Diagnostics AI的機(jī)器學(xué)習(xí)系統(tǒng) 8
1.3　構(gòu)建Diagnostics AI 8
1.4　Diagnostics 的主要問題 10
1.4.1　數(shù)據(jù)泄露 10
1.4.2　偏見 10
1.4.3　監(jiān)管不合規(guī) 11
1.4.4　概念漂移 11
1.5　如何解決這些主要問題 11
1.6　Interpretability與Explainability 13
1.7　你將在本書學(xué)到什么 15
1.7.1　本書使用的工具 17
1.7.2　閱讀本書所需的基礎(chǔ)知識 17
1.8　本章小結(jié) 18
第2章 白盒模型 19
2.1　白盒模型概述 20
2.2　Diagnostics AI示例：預(yù)測糖尿病進(jìn)展情況 21
2.3　線性回歸 24
2.3.1　解釋線性回歸 27
2.3.2　線性回歸的局限性 29
2.4　決策樹 30
2.4.1　解釋決策樹 32
2.4.2　決策樹的局限性 35
2.5　廣義可加模型(GAM) 36
2.5.1　回歸樣條 38
2.5.2　GAM用于Diagnostics AI預(yù)測糖尿病進(jìn)展 42
2.5.3　解釋GAM 43
2.5.4　GAM的局限性 46
2.6　展望黑盒模型 46
2.7　本章小結(jié) 48 第Ⅱ部分 解釋模型處理
第3章 全局與模型無關(guān)可解釋技術(shù) 51
3.1　高中生成績預(yù)測器 52
3.2　集成樹 57
3.3　解釋隨機(jī)森林 63
3.4　模型無關(guān)方法：全局可解釋 65
3.4.1　部分依賴圖 66
3.4.2　特征的相互作用 71
3.5　本章小結(jié) 77
第4章 局部與模型無關(guān)可解釋技術(shù) 79
4.1　Diagnostics AI示例：乳腺癌診斷 80
4.2　探索性數(shù)據(jù)分析 81
4.3　深度神經(jīng)網(wǎng)絡(luò) 84
4.3.1　數(shù)據(jù)準(zhǔn)備 88
4.3.2　訓(xùn)練和評估DNN 90
4.4　解釋DNN 92
4.5　LIME 94
4.6　SHAP 103
4.7　錨定 106
4.8　本章小結(jié) 110
第5章 顯著圖 113
5.1　Diagnostics AI示例：浸潤性導(dǎo)管癌檢測 114
5.2　探索性數(shù)據(jù)分析 114
5.3　卷積神經(jīng)網(wǎng)絡(luò) 117
5.3.1　數(shù)據(jù)準(zhǔn)備 121
5.3.2　訓(xùn)練和評估CNN 123
5.4　解釋CNN 126
5.4.1　概率分布圖 126
5.4.2　LIME 127
5.4.3　視覺歸因法 132
5.5　標(biāo)準(zhǔn)反向傳播 134
5.6　導(dǎo)向反向傳播 138
5.7　其他基于梯度的方法 140
5.8　Grad-CAM和導(dǎo)向Grad-CAM 141
5.9　我應(yīng)該使用哪種歸因法 145
5.10　本章小結(jié) 147 第Ⅲ部分 解釋模型表示
第6章 理解層和單元 151
6.1　視覺理解 152
6.2　回顧卷積神經(jīng)網(wǎng)絡(luò) 153
6.3　神經(jīng)網(wǎng)絡(luò)剖析框架 155
6.3.1　概念定義 156
6.3.2　網(wǎng)絡(luò)探測 157
6.3.3　量化對齊 160
6.4　解釋層和單元 160
6.4.1　運(yùn)行網(wǎng)絡(luò)剖析 161
6.4.2　概念檢測器 165
6.4.3　訓(xùn)練任務(wù)的概念檢測器 171
6.4.4　可視化概念檢測器 176
6.4.5　網(wǎng)絡(luò)剖析的局限性 179
6.5　本章小結(jié) 179
第7章 理解語義相似性 181
7.1　情感分析 182
7.2　探索性數(shù)據(jù)分析 183
7.3　神經(jīng)網(wǎng)絡(luò)詞嵌入 187
7.3.1　獨(dú)熱編碼 187
7.3.2　Word2Vec 188
7.3.3　GloVe嵌入 191
7.3.4　情感分析模型 193
7.4　解釋語義相似性 194
7.4.1　度量相似性 196
7.4.2　主成分分析(PCA) 199
7.4.3　t分布隨機(jī)近鄰嵌入(t-SNE) 204
7.4.4　驗證語義相似性的可視化 208
7.5　本章小結(jié) 210
第Ⅳ部分 公平和偏見
第8章 公平和減少偏見 213
8.1　成年人收入預(yù)測 215
8.1.1　探索性數(shù)據(jù)分析 216
8.1.2　預(yù)測模型 218
8.2 公平性概念 221
8.2.1　人口平等 222
8.2.2　機(jī)會和幾率平等 225
8.2.3　其他公平性概念 228
8.3　可解釋和公平性 229
8.3.1　源自輸入特征的歧視 229
8.3.2　源自表示的歧視 233
8.4　減少偏見 234
8.4.1　無意識公平 234
8.4.2　通過重新加權(quán)糾正標(biāo)注偏見 235
8.5　數(shù)據(jù)集的數(shù)據(jù)表 238
8.6　本章小結(jié) 240
第9章 XAI 243
9.1 XAI概述 245
9.2　反事實說明 247
9.3　本章小結(jié) 251
附錄A 設(shè)置環(huán)境 253
A.1　Python代碼 253
A.2　Git代碼庫 253
A.3　Conda環(huán)境 253
A.4　Jupyter notebooks 254
A.5　Docker 254
附錄B PyTorch 257
B.1　什么是PyTorch 257
B.2　安裝PyTorch 257
B.3　張量 258
B.3.1　數(shù)據(jù)類型 259
B.3.2　CPU和GPU張量 260
B.3.3　運(yùn)算 260
B.4 Dataset和DataLoader 261
B.5 建模 263
B.5.1　自動微分法 263
B.5.2　模型定義 265
B.5.3　訓(xùn)練 267