類別: 模型
類型: 決策 / 機率圖模型
來源: Judea Pearl（1985），加州大學洛杉磯分校
別名: 信念網路；Bayes net；貝葉斯信念網
類型: 決策 / 機率圖模型
來源: Judea Pearl（1985），加州大學洛杉磯分校
別名: 信念網路；Bayes net；貝葉斯信念網
快速回答 — 貝葉斯網路（Bayesian Network）是一張有向無環圖：節點是變數，箭頭標出直接依賴，新證據到來時，所有相關信念一起更新。Judea Pearl 於 1985 年為其命名，並在 1988 年的專著 Probabilistic Reasoning in Intelligent Systems 中給出計算方法。實踐啟示是：先畫出依賴結構，再讓機率既能從原因流向症狀，也能從症狀回流到原因。
什麼是貝葉斯網路？
貝葉斯網路是聯合機率分布的緊湊模型：每個節點是一個變數，每條箭頭標記直接依賴，每個節點只保存「在父節點已知時自己取各值的機率」。信念網路是有向無環圖：節點表示命題或變數，弧表示直接依賴，依賴的強度用條件機率來量化。想像一輛車打不著火。大燈發暗、啟動馬達只喀喀響、油表有油——這三件事不是三張獨立的選票。大燈和啟動馬達都掛在電瓶上，油路是另一條父節點。若大燈很亮，電瓶這條解釋在開引擎蓋之前就會減弱。日常提示是：事實若總是結伴出現，就畫出「給定這個之後」的箭頭，而不是把孤立分數相加。同一紀律也支撐著貝葉斯思維和機率思維，但網路是讓許多次更新彼此不打架的那張地圖。
貝葉斯網路的三層理解
- 入門：咳嗽、發燒、同班有人感冒同時出現時，不要當成三張獨立選票。先問：什麼會讓什麼更可能。
- 實務：列出變數，從原因畫到結果，給每個節點寫「給定父節點時」的粗略機率，有證據就同時更新預測和診斷。
- 進階：圖是關於條件獨立的斷言。漏畫或畫反箭頭，會改變整個聯合分布。稀疏圖上精確推論仍可行；父節點一多或迴路一多，計算就會爆炸。
起源
加州大學洛杉磯分校認知系統實驗室的 Judea Pearl 發展這一模型，是為了把機率放進機器，卻不必儲存所有組合的指數級表格。1982 年，他在 AAAI 發表 “Reverend Bayes on Inference Engines: A Distributed Hierarchical Approach”，證明樹狀網路可以透過局部訊息傳遞更新信念。1985 年，他在認知科學學會上的論文 “Bayesian Networks: A Model of Self-Activated Memory for Evidential Reasoning” 中提出 Bayesian networks 這一名稱。1986 年發表於 Artificial Intelligence 的 “Fusion, Propagation, and Structuring in Belief Networks” 給出了表示與精確推論的技術核心。 綜合出現在 1988 年的 Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference（Morgan Kaufmann）。同年，Steffen L. Lauritzen 與 David J. Spiegelhalter 在 Journal of the Royal Statistical Society Series B 發表 “Local Computations with Probabilities on Graphical Structures”，說明如何透過重新分組變數，在一般網路——不只是樹——上做計算。更早的圖祖先包括 Sewall Wright 的路徑圖，以及 Ronald Howard 與 James Matheson 的影響圖；Pearl 的貢獻是連貫的機率語意，加上能跑起來的演算法。 ACM 將 2011 年 A.M. Turing Award 授予 Pearl（2012 年 3 月宣布），表彰其機率與因果推理演算。貝葉斯網路是該計畫的機率一半；後來的因果一半寫在 Causality（2000）裡，把箭頭當成干預，而不只是相關。核心要點
把貝葉斯網路用來讓許多不確定事實彼此一致，而不是當成取代判斷的黑箱。1
先畫圖，再填數
節點是你真正追蹤的變數。箭頭表示：一旦父節點已知，哪些變數仍然相互依賴。缺一條箭頭就是在主張獨立，不是裝飾。兩封熱情推薦若來自同一位經理，它們共享一個父節點；畫成兩條獨立箭頭，等於把同一個人的口味算了兩遍。
2
把聯合分布拆成局部表
你不需要一張覆蓋所有組合的總表。每個節點只保存「給定父節點時自己的機率」。這也是它能比列舉整條路徑的決策樹走得更遠的原因：圖在復用局部零件。父節點集合要小，否則局部表自己也會爆炸。
3
讓證據雙向流動
原因預測結果（順箭頭向下）。觀察到的結果也會修正原因（逆箭頭向上）。Pearl 的要點是：只要圖畫清楚，普通機率本來就支援兩個方向。檢測呈陽性，就更新疾病節點；一旦得知此人從未有過危險因素，就把這條消息送回檢測結果的含義裡。
4
讓獨立假設經得起追問
樸素貝葉斯是星形特例：每個線索在類別已知時彼此獨立。真實線索常常成簇。Pathfinder 的後期版本勝過獨立模型，正因為淋巴結所見並非在疾病已知後仍彼此獨立。只有當你已經知道父節點後，依賴仍然存在，才加那條箭頭。
應用場景
當若干不確定事實共享父節點、你又必須同時改寫多個信念時，這個模型才真正值錢。家庭與臨床診斷
孩子發燒、出疹、同班有人流感，不是三隻獨立鬧鐘。把接觸史畫成同學和自家孩子的共同父節點，再更新。門診裡同一招，能避免把化驗單讀成「從天而降的鐵證」。
機器與軟體排障
列出故障模式、症狀和檢測。電瓶、啟動馬達、油路是「打不著火」的不同父節點。大燈很亮，就先降低電瓶假設，再決定換零件。服務崩潰也可以同樣草圖：共享設定，還是彼此獨立的缺陷。
招聘、信貸與案卷覆核
相關的證據就按相關來處理。同一場比賽的兩個獎、同一團隊的兩封推薦，弱於兩個獨立來源。把共同父節點寫在紙上，這樣「再多一封信」的期望值才不會被抬高。
資料稀疏的公共風險
疫情、洪水預警、故障上報，混雜著檢測、基礎率和共同暴露。儀表板上的單個數字托不住這些連結時，用網路來問：哪一次觀察會改變決策——而不是製造假精確。
經典案例
Pathfinder 是一套面向淋巴結病理診斷的決策論專家系統，1983 年由史丹佛的研究者——包括 David Heckerman、Eric Horvitz 和 Larry Fagan——與南加州大學的 Bharat Nathwani 聯合啟動。領域很大：能累及淋巴結的疾病超過 60 種（25 種良性、9 種何傑金氏淋巴瘤、18 種非何傑金氏淋巴瘤、10 種轉移瘤），以及超過 130 項顯微、臨床、實驗室、免疫和分子特徵。 早期版本假定：給定疾病後，所見彼此獨立。後期版本改用信念網路，以便表示所見之間的依賴。Heckerman、Horvitz 與 Nathwani 在 1989 年的 SCAMC 報告中比較了兩套知識庫。專家評分均值從獨立模型的 7.99（標準差 2.32）升到依賴模型的 8.94（標準差 1.51）。決策論分數以 micromort 計，均值從 340 降到 16。作者把差距約計為每例 300 個 micromort；按其專家每 micromort 折合 20 美元的換算，大約 6000 美元。 Heckerman 與 Nathwani 1992 年發表於 Computers and Biomedical Research（第 25 卷，第 56–74 頁）的論文結論是：把這些依賴寫進模型是划算的，更複雜的 Pathfinder 至少不弱於 Pathfinder 的那位專家。1990 年代初，商業衍生系統 Intellipath 已在數百名病理醫師中使用。教訓是結構上的：圖之所以值錢，是因為它拒絕假裝線索彼此獨立。邊界提示：Pathfinder 假定疾病互斥且窮盡——許多現實裡的決策並不滿足這一點。邊界與失效場景
貝葉斯網路的誠實程度，取決於箭頭。把因果畫反，或漏掉共同父節點，更新看起來很精確，答的卻是錯問題。這是圖的錯誤，不是軟體故障。 精確推論也不是免費的。在樹上，局部訊息傳遞很高效。圖一密，或某個節點父節點很多，局部表和計算都會迅速變大。這時蒙地卡羅模擬等近似不再是可選項。不要把一張巨大的網路自動當成更科學。 後來的因果讀法是另一項主張。觀察到撐傘的人也常看見雨，並不能告訴你強迫他們撐傘會發生什麼。因果思維和 Pearl 的干預演算問的是這多出來的一步。把貝葉斯網路裡的每條箭頭都當成已經可扳的槓桿，是最常見的誤用。常見誤區
這個名字容易引出三條捷徑：把模型收成一個公式、把每條箭頭當成因果、以為節點越多就越真。貝葉斯網路就是貝葉斯定理
貝葉斯網路就是貝葉斯定理
貝葉斯法則是局部更新。網路是地圖，規定哪些更新可以互相影響。樸素貝葉斯只是一張很小的圖：一個類別節點，下面掛彼此獨立的子節點。多數有用的網路不是那顆星。
每條箭頭都是已被證明的因果
每條箭頭都是已被證明的因果
箭頭編碼的是機率模型裡的直接依賴。它們可以來自因果知識，也可以只是相關、時間順序，或一種方便的分解。干預是另一步，不是畫圖附贈的禮物。
節點和箭頭越多，模型一定越好
節點和箭頭越多，模型一定越好
多出來的父節點會讓你必須填寫的表爆炸，多出來的迴路會讓精確推論更難。一張更小、獨立關係更誠實的圖，往往比一張擠滿猜測數字的圖預測得更好。
相關概念
這些頁面挨著同一個問題：如何在不確定中修正信念，卻不把每條線索都當成獨立的。貝葉斯思維
有證據就更新先驗的習慣；網路是這一習慣在許多變數上的展開。
機率思維
保持信念的程度，而不是被迫貼上是/否標籤。
因果思維
何時箭頭應當表示干預，而不只是相關。
決策樹
按路徑展開選擇與機會的地圖；與依賴圖互補，並不等同。
期望值
把更新後的機率收成可比較數字的計分規則。
蒙地卡羅模擬
用抽樣近似難以精確計算的網路查詢，而不是只靠訊息傳遞。