第1章人工智能數據安全概述1
1.1人工智能發展概述1
1.1.1人工智能基本原理與發展歷程1
1.1.2人工智能核心技術及應用4
習題7
1.2人工智能數據安全7
1.2.1人工智能數據安全要素7
1.2.2人工智能模型10
1.2.3人工智能數據生命周期的安全威脅12
習題14
1.3人工智能數據安全的治理動態15
1.3.1國際法規與合作動態15
1.3.2國內政策與實施指南17
習題19
1.4人工智能數據安全的發展趨勢19
1.4.1風險與挑戰19
1.4.2技術與策略20
習題22
參考文獻22

第2章異常數據處理方法27
2.1數據清洗27
2.1.1數據異常檢測27
2.1.2數據清洗方法30
習題33
2.2不平衡數據處理33
2.2.1數據不平衡的成因及其影響33
2.2.2數據側處理方法34
2.2.3算法側處理方法37
習題39
2.3數據偏見及其處理402.3.1數據偏見的成因40
2.3.2數據偏見的影響41
2.3.3數據偏見的處理方法42
習題44
參考文獻44

第3章人工智能數據投毒與防御47
3.1數據投毒攻擊47
3.1.1數據投毒攻擊的攻擊場景及威脅模型47
3.1.2數據投毒攻擊的不同目標類型48
3.1.3數據投毒攻擊的不同方法類型49
習題52
3.2數據投毒攻擊的防御技術52
3.2.1針對數據收集階段的防御方法52
3.2.2針對模型訓練階段的防御方法54
3.2.3針對模型部署階段的防御方法55
習題56
3.3投毒式后門攻擊57
3.3.1投毒式后門攻擊的攻擊場景及其威脅模型57
3.3.2投毒式后門攻擊的形式化定義58
3.3.3投毒式后門攻擊的不同觸發器類型60
3.3.4投毒式后門攻擊的不同目標類型63
3.3.5非投毒式后門攻擊64
3.3.6與相關領域的聯系與區別66
習題67
3.4后門攻擊的防御技術67
3.4.1針對數據收集階段的后門防御67
3.4.2針對模型訓練階段的后門防御68
3.4.3針對模型部署階段的后門防御69
3.4.4針對模型推理階段的后門防御70
3.4.5基于特性的經驗性后門防御劃分和認證性后門防御72
習題73
3.5大模型投毒式攻擊及其防御74
3.5.1大模型的基本概念74
3.5.2大模型的訓練過程74
3.5.3大模型場景下的技術挑戰76
3.5.4大模型投毒式攻擊技術78
3.5.5大模型投毒式攻擊的防御技術80
習題81
參考文獻82

第4章人工智能的數據泄露問題88
4.1數據隱私的基本概念88
4.1.1數據隱私的定義88
4.1.2數據隱私的重要性90
4.1.3數據隱私保護的挑戰91
習題92
4.2成員推理攻擊92
4.2.1成員推理攻擊的攻擊場景及其威脅模型92
4.2.2成員推理攻擊的形式化定義93
4.2.3基于二元分類器的成員推理攻擊94
4.2.4基于度量的成員推理攻擊96
4.2.5針對不同機器學習模型的成員推理攻擊97
習題99
4.3模型逆向攻擊100
4.3.1模型逆向攻擊的攻擊場景及其威脅模型100
4.3.2模型逆向攻擊的形式化定義101
4.3.3基于黑盒模型的逆向攻擊101
4.3.4基于白盒模型的逆向攻擊102
4.3.5常見的模型逆向攻擊方法103
習題104
參考文獻104

第5章人工智能數據隱私保護方法107
5.1數據脫敏107
5.1.1數據脫敏類型107
5.1.2數據脫敏技術108
5.1.3數據脫敏的應用場景108
習題109
5.2數據匿名化109
5.2.1數據匿名化基本方法110
5.2.2數據匿名化技術111
5.2.3數據匿名化技術的應用場景114
習題114
5.3差分隱私115
5.3.1差分隱私的形式化定義115
5.3.2差分隱私的性質117
5.3.3差分隱私技術118
5.3.4差分隱私的類型119
5.3.5差分隱私的應用120
習題121
5.4差分隱私保護的模型訓練121
5.4.1差分隱私模型訓練的形式化定義121
5.4.2差分隱私模型訓練技術122
5.4.3差分隱私模型訓練的應用125
習題127
5.5差分隱私保護的數據合成128
5.5.1差分隱私數據合成的形式化定義128
5.5.2差分隱私數據合成技術129
5.5.3差分隱私數據合成的應用131
習題133
5.6數據遺忘134
5.6.1數據遺忘的定義135
5.6.2數據遺忘方案136
5.6.3數據遺忘的應用場景137
習題137
參考文獻138

第6章隱私計算方法141
6.1隱私計算的基本概念141
6.1.1隱私計算的形式化定義141
6.1.2隱私計算的關鍵特征142
6.1.3隱私計算的重要性143
6.1.4隱私計算的應用144
習題145
6.2安全多方計算146
6.2.1安全多方計算的形式化定義146
6.2.2安全多方計算的關鍵協議148
6.2.3安全多方計算的應用152
習題153
6.3同態加密和隱私推理153
6.3.1同態加密和隱私推理的形式化定義153
6.3.2同態加密的算法與技術154
6.3.3同態加密和隱私推理的應用157
習題159
6.4聯邦學習159
6.4.1聯邦學習的形式化定義159
6.4.2聯邦學習的算法和技術160
6.4.3聯邦學習中的隱私保護方法162
6.4.4聯邦學習的應用163
習題164
6.5可信執行環境165
6.5.1可信執行環境的形式化定義165
6.5.2可信執行環境的實現機制166
6.5.3可信執行環境的典型實現167
6.5.4可信執行環境的應用168
習題169
參考文獻169

第7章多媒體和數據內容安全171
7.1內容安全的基本概念171
7.1.1內容安全的定義171
7.1.2內容安全的范疇172
7.1.3內容安全研究的意義175
7.1.4內容安全應用176
習題178
7.2多媒體不良信息檢測178
7.2.1多媒體不良信息檢測概述178
7.2.2多媒體不良信息檢測方法179
7.2.3多媒體不良信息檢測的應用184
習題186
7.3大模型生成內容安全186
7.3.1生成式大模型概述186
7.3.2大模型生成內容安全風險189
7.3.3大模型生成內容安全風險成因192
7.3.4大模型生成內容安全防護機制196
7.3.5大模型生成內容安全研究的應用201
習題201
7.4模型與數據版權保護202
7.4.1模型版權保護概述202
7.4.2模型版權保護方法203
7.4.3模型版權保護的應用207
7.4.4數據版權保護概述208
7.4.5數據版權保護方法208
7.4.6數據版權保護的應用214
習題215
參考文獻215

第8章深度偽造與檢測方法226
8.1深度偽造的基本概念226
8.1.1深度偽造的定義226
8.1.2深度偽造的應用227
習題228
8.2深度偽造技術229
8.2.1深度偽造的評價指標229
8.2.2深度偽造技術分類230
習題246
8.3深度偽造被動檢測及主動防御技術247
8.3.1深度偽造檢測的評價指標247
8.3.2深度偽造檢測數據構建248
8.3.3深度偽造被動檢測技術250
8.3.4深度偽造主動防御技術269
8.3.5深度偽造被動檢測與主動防御的應用274
習題275
參考文獻275

第9章討論與展望285
9.1大模型時代下的數據安全形勢285
9.1.1生成式大模型帶來的技術沖擊285
9.1.2生成式大模型形成的安全場景288
習題289
9.2關鍵前沿技術與發展方向290
9.2.1模型幻覺與評估技術290
9.2.2AI 時代的隱私安全291
9.2.3大模型水印技術292
9.2.4大模型安全護欄294
習題295
9.3數據安全治理與未來展望295
9.3.1數據安全問題治理295
9.3.2大模型時代的數據安全展望298
習題301
參考文獻302