目錄
第1章 信息論概述 / 1
1.1　信息論與信息科學 / 3
1.2　信息的概念與性質 / 5
1.2.1　信息的概念 / 5
1.2.2　信息的性質 / 9
1.2.3　信息、消息及信號 / 9
1.3　信息論研究的對象、目的和內容 / 11
1.3.1　信息論研究的對象 / 11
1.3.2　信息論研究的目的 / 13
1.3.3　信息論研究的內容 / 14
1.4　信息論的發展歷程 / 16
1.4.1　信息論的醞釀 / 16
1.4.2　信息論的建立 / 18
1.4.3　信息論的發展 / 19
1.4.4　香農及其貢獻 / 19
第2章 信息的統一度量 / 21
2.1　自信息 / 24
2.1.1　自信息 / 24
2.1.2　條件自信息 / 26
2.2　信息熵 / 26
2.2.1　熵的定義 / 27
2.2.2　熵的性質 / 30
2.2.3　聯合熵 / 34
2.2.4　條件熵 / 35
2.3　互信息 / 36
2.3.1　互信息的定義 / 36
2.3.2　互信息的性質 / 37
2.4　平均互信息 / 38
2.4.1　平均互信息的定義 / 39
2.4.2　平均互信息的性質 / 40
2.5　各種信息度量之間的關系 / 45
2.6　擴展信源的信息度量 / 46
2.7　連續隨機變量的信息度量 / 48
第3章 信源 / 57
3.1　信源的分類 / 60
3.2　信源的數學描述 / 61
3.2.1　用隨機變量描述離散消息 / 61
3.2.2　用隨機矢量描述離散序列 / 62
3.2.3　用隨機過程描述波形信源 / 64
3.3　馬爾可夫信源 / 65
3.3.1　馬爾可夫信源定義 / 65
3.3.2　狀態轉移概率及描述 / 65
3.3.3　切普曼—柯爾莫戈洛夫方程 / 68
3.3.4　馬爾可夫鏈的狀態分類 / 69
3.3.5　馬爾可夫鏈的遍歷性 / 70
3.3.6　離散馬爾可夫信源的熵 / 70
3.4　信源的相關性和剩余度 / 74
第4章 信　道 / 79
4.1　信道的分類 / 82
4.2　信道的數學描述 / 85
4.2.1　離散信道模型 / 86
4.2.2　連續信道模型 / 89
4.2.3　波形信道模型 / 90
4.3　信道疑義度和噪聲熵 / 91
4.4　信道的組合 / 92
4.4.1　串聯信道 / 92
4.4.2　并聯信道 / 95
4.5　信道容量 / / 96
4.5.1　信道容量的定義 / 97
4.5.2　簡單離散信道的信道容量 / 98
4.5.3　對稱離散信道的信道容量 / 101
4.5.4　組合信道的信道容量 / 104
4.5.5　一般離散信道的信道容量 / 106
4.5.6　離散無記憶信道容量的迭代算法 / 118
4.5.7　連續型信道的信道容量 / 126
4.6　信源與信道的匹配 / 136
第5章 信源編碼 / 143
5.1　信源編碼的基本概念 / 146
5.2　唯一可譯性的判決問題 / 151
5.2.1　唯一可譯性的存在性判決 / 151
5.2.2　唯一可譯碼判斷準則 / 152
5.3　無失真信源編碼 / 154
5.3.1　等長碼的編碼長度 / 154
5.3.2　等長無失真信源編碼定理 / 156
5.3.3　變長無失真信源編碼定理（香農**定理） / 160
5.3.4　變長碼的常用編碼方法 / 168
5.4　限失真信源編碼 / 176
5.4.1　失真測度 / 176
5.4.2　信息率失真函數 / 181
5.4.3　信息率失真函數的計算 / 187
5.4.4　限失真信源編碼定理（香農第三定理） / 188
第6章 信道編碼 / 199
6.1　信道編碼的基本概念 / 202
6.1.1　編碼信道 / 202
6.1.2　譯碼準則 / 202
6.1.3　錯誤概率 / 203
6.1.4　碼字空間 / 204
6.1.5　漢明距離 / 204
6.1.6　糾檢錯能力 / 205
6.2　兩種典型的譯碼準則 / 206
6.2.1　*大后驗概率準則 / 206
6.2.2　*大似然譯碼準則 / 207
6.3　有噪信道編碼定理（香農第二定理） / 210
6.4　信源信道聯合編碼定理 / 211
6.5　信道編碼 / 212
6.5.1　奇偶校驗碼 / 213
6.5.2　簡單重復碼 / 216
6.5.3　線性分組碼 / 218
6.5.4　循環碼 / 220
6.5.5　卷積碼 / 223
第7章 網絡信息論 / 235
7.1　網絡信道的分類 / 239
7.1.1　多源接入信道 / 239
7.1.2　廣播信道 / 240
7.1.3　中繼信道 / 240
7.1.4　串擾信道 / 241
7.1.5　反饋信道 / 241
7.2　網絡信道的容量 / 242
7.3　網絡編碼的基本原理 / 250
7.3.1　網絡編碼相關概念 / 251
7.3.2　網絡編碼的優點 / 252
7.3.3　網絡編碼的構造算法及發展方向 / 258
7.3.4　網絡編碼的適用條件 / 265
第8章 信息論的應用 / 267
8.1　生物信息學 / 269
8.1.1　核酸序列分析 / 271
8.1.2　蛋白質序列分析 / 271
8.1.3　生物醫學成像 / 272
8.2　信息光學 / 279
8.2.1　光學全息 / 281
8.2.2　光學信息處理 / 283
8.2.3　光通信 / 286
8.3　信息論與密碼學 / 288
8.3.1　保密系統的數學模型 / 290
8.3.2　傳統加密技術 / 291
8.3.3　現代加密技術 / 295
8.4　經濟信息學 / 298
8.4.1　香農的投資之路 / 299
8.4.2　凱利公式 / 302
8.4.3　優化投資組合——馬科維茨理論 / 304
8.4.4　優化投資組合的熵理論 / 306
8.5　信息論與管理 / 307
8.5.1　管理的*簡信息模型 / 308
8.5.2　復雜管理信息模型構造 / 312