第1部分 概率編程和Figaro簡介
第1章 概率編程簡介 3
1.1什麼是概率編程 4
1.1.1我們如何做齣主觀判斷 4
1.1.2概率推理係統幫助決策 5
1.1.3概率推理係統有3種方式推理 7
1.1.4概率編程係統：用編程語言錶達的概率推理係統 11
1.2為什麼使用概率編程 14
1.2.1更好的概率推理 14
1.2.2更好的模擬語言 15
1.3Figaro簡介：一種概率編程語言 16
1.4小結 23
1.5練習 24
第2章Figaro快速教程 25
2.1Figaro簡介 25
2.2創建模型和運行推理：重迴Hello World 27
2.2.1構建第一個模型 28
2.2.2運行推理和迴答查詢 29
2.2.3構建模型和生成觀測值 29
2.2.4理解模型的構建方法 31
2.2.5理解重復的元素：何時相同，何時不同 32
2.3使用基本構件：原子元素 33
2.3.1離散原子元素 34
2.3.2連續原子元素 35
2.4使用復閤元素組閤原子元素 37
2.4.1If 38
2.4.2Dist 39
2.4.3原子元素的復閤版本 39
2.5用Apply和Chain構建更復雜的模型 40
2.5.1Apply 41
2.5.2Chain 43
2.6使用條件和約束指定證據 46
2.6.1觀測值 46
2.6.2條件 47
2.6.3約束 48
2.7小結 50
2.8練習 51
第3章創建一個概率編程應用程序 53
3.1把握全局 53
3.2運行代碼 56
3.3探索垃圾郵件過濾應用的架構 59
3.3.1推理組件架構 59
3.3.2學習組件架構 62
3.4設計電子郵件模型 64
3.4.1選擇元素 64
3.4.2定義依賴關係 67
3.4.3定義函數形式 68
3.4.4使用數值參數 71
3.4.5使用輔助知識 73
3.5構建推理組件 74
3.6創建學習組件 78
3.7小結 81
3.8練習 82
第2部分 編寫概率程序
第4章概率模型和概率程序 85
4.1概率模型定義 86
4.1.1將一般知識錶達為可能世界上的某種概率分布 86
4.1.2進一步探索概率分布 88
4.2使用概率模型迴答查詢 90
4.2.1根據證據調節以産生後驗概率分布 90
4.2.2迴答查詢 92
4.2.3使用概率推理 94
4.3概率模型的組成部分 94
4.3.1變量 95
4.3.2依賴性 96
4.3.3函數形式 101
4.3.4數值參數 104
4.4生成過程 105
4.5使用連續變量的模型 110
4.5.1使用beta—二項式模型 110
4.5.2連續變量的錶示 111
4.6小結 114
4.7練習 114
第5章用貝葉斯和馬爾科夫網絡建立依賴性模型 116
5.1建立依賴性模型 117
5.1.1有嚮依賴性 117
5.1.2無嚮依賴性 122
5.1.3直接和間接依賴性 124
5.2使用貝葉斯網絡 126
5.2.1貝葉斯網絡定義 126
5.2.2貝葉斯網絡如何定義概率分布 127
5.2.3用貝葉斯網絡進行推理 128
5.3探索貝葉斯網絡的一個示例 131
5.3.1設計一個計算機係統診斷模型 131
5.3.2用計算機係統診斷模型進行推理 135
5.4使用概率編程擴展貝葉斯網絡：預測産品的成功 140
5.4.1設計産品成功預測模型 140
5.4.2用産品成功預測模型進行推理 145
5.5使用馬爾科夫網絡 147
5.5.1馬爾科夫網絡定義 147
5.5.2錶示馬爾科夫網絡並用其進行推理 150
5.6小結 153
5.7練習 153
第6章使用Scala和Figaro集閤構建模型 156
6.1使用Scala集閤 157
6.1.1為依賴於單一變量的多個變量建立模型 157
6.1.2創建層次化模型 160
6.1.3建立同時依賴兩個變量的模型 162
6.2使用Figaro集閤 165
6.2.1理解Figaro集閤的用途 165
6.2.2用Figaro集閤重新實現層次化模型 166
6.2.3結閤使用Scala和Figaro集閤 168
6.3建立對象數量未知情況的模型 171
6.3.1開放宇宙中對象數量未知的情況 171
6.3.2可變大小數組 172
6.3.3可變大小數組上的操作 172
6.3.4示例：預測數量未知的新産品銷售額 173
6.4處理無限過程 174
6.4.1Process特徵 175
6.4.2示例：一個健康時空過程 176
6.4.3使用過程 178
6.5小結 179
6.6練習 180
第7章麵嚮對象概率建模 182
7.1使用麵嚮對象概率模型 183
7.1.1理解麵嚮對象建模的元素 183
7.1.2重溫打印機模型 185
7.1.3關於多颱打印機的推理 189
7.2用關係擴展OO概率模型 192
7.2.1描述通用類級模型 192
7.2.2描述某種情況 195
7.2.3用Figaro錶現社會化媒體模型 198
7.3建立關係和類型不確定性的模型 200
7.3.1元素集閤和引用 200
7.3.2具有關係不確定性的社會化媒體模型 202
7.3.3具有類型不確定性的打印機模型 205
7.4小結 207
7.5練習 207
第8章動態係統建模 209
8.1動態概率模型 210
8.2動態模型類型 211
8.2.1馬爾科夫鏈 211
8.2.2隱含馬爾科夫模型 214
8.2.3動態貝葉斯網絡 216
8.2.4結構隨時間改變的模型 220
8.3建立永續係統的模型 224
8.3.1理解Figaro的宇宙概念 224
8.3.2使用宇宙建立持續運行係統的模型 225
8.3.3運行一個監控應用 227
8.4小結 229
8.5練習 230
第3部分 推理
第9章概率推理三原則 235
9.1鏈式法則：從條件概率分布構建聯閤分布 237
9.2全概率公式：從聯閤分布獲得簡單查詢結果 240
9.3貝葉斯法則：從結果推斷原因 243
9.3.1理解、原因、結果和推理 243
9.3.2實踐中的貝葉斯法則 245
9.4貝葉斯建模 247
9.4.1估算硬幣的偏差 248
9.4.2預測下一次擲幣結果 252
9.5小結 256
9.6練習 256
第10章因子分解推理算法 258
10.1因子 259
10.1.1什麼是因子 259
10.1.2用鏈式法則分解概率分布 261
10.1.3使用全概率公式，定義包含因子的查詢 263
10.2變量消除算法 267
10.2.1VE的圖形解釋 267
10.2.2VE代數運算 271
10.3VE的使用 273
10.3.1Figaro特有的VE考慮因素 273
10.3.2設計模型支持高效的VE 275
10.3.3VE的應用 278
10.4置信傳播 281
10.4.1BP基本原理 282
10.4.2LoopyBP的屬性 282
10.5BP的使用 284
10.5.1Figaro特有的BP考慮因素 284
10.5.2設計模型以支持高效的BP 285
10.5.3BP的應用 287
10.6小結 288
10.7練習 288
第11章抽樣算法 291
11.1抽樣的原理 292
11.1.1前嚮抽樣 293
11.1.2拒絕抽樣 297
11.2重要性抽樣 299
11.2.1重要性抽樣的工作方式 300
11.2.2在Figaro中使用重要性抽樣 303
11.2.3讓重要性抽樣為您工作 304
11.2.4重要性抽樣的應用 305
11.3馬爾科夫鏈濛特卡洛抽樣 307
11.3.1MCMC的工作方式 308
11.3.2Figaro的MCMC算法：Metropolis—Hastings算法 311
11.4讓MH更好地工作 314
11.4.1自定義提議 316
11.4.2避免硬條件 319
11.4.3MH的應用 320
11.5小結 321
11.6練習 322
第12章處理其他推理任務 324
12.1計算聯閤分布 325
12.2計算最可能的解釋 326
12.2.1在Figaro中計算和查詢MPE 329
12.2.2MPE查詢算法的使用 331
12.2.3探索MPE算法的應用 336
12.3計算證據的概率 337
12.3.1觀察用於證據概率計算的證據 338
12.3.2運行證據概率算法 339
12.4小結 341
12.5練習 341
第13章動態推理和參數學習 342
13.1監控動態係統的狀態 342
13.1.1監控機製 344
13.1.2粒子過濾算法 345
13.1.3過濾的應用 348
13.2學習模型參數 349
13.2.1貝葉斯學習 349
13.2.2最大似然和MAP學習 353
13.3進一步應用Figaro 360
13.4小結 361
13.5練習 361
附錄A獲取和安裝Scala和Figaro 364
A.1使用sbt 364
A.2在沒有sbt的情況下安裝和運行Figaro 365
A.3從源代碼編譯 366
附錄B概率編程係統簡況 367
· · · · · · (收起)