Skip to main content
カテゴリ: モデル
種類: 意思決定 / 確率的グラフィカルモデル
起源: Judea Pearl（1985）、カリフォルニア大学ロサンゼルス校
別名: 信念ネットワーク、ベイズネット、ベイジアン信念ネットワーク
先に答えると — ベイジアンネットワーク（Bayesian Network）は、変数どうしの依存を有向非巡回グラフに書き、新しい証拠が来ると関連する信念をまとめて更新する枠組みです。Judea Pearl が 1985 年にこの名を付け、1988 年の著書 Probabilistic Reasoning in Intelligent Systems で計算の理論を示しました。実務上の教訓は、まず依存の構造を描き、確率を原因から症状へ、症状から原因へ、双方向に流すことです。

​
ベイジアンネットワークとは？

ベイジアンネットワークは、同時確率分布のコンパクトなモデルです。各ノードは変数、各矢印は直接の依存、各ノードは親が与えられたときの自分の値の確率だけを持ちます。
信念ネットワークは有向非巡回グラフである。ノードは命題（または変数）を表し、弧は直接の依存を示し、その強さは条件付き確率で定量化される。
エンジンがかからない車を想像してください。ヘッドライトが暗い、スターターがカチカチ鳴る、燃料計は残量を示している。この三つは独立した投票ではありません。ライトとスターターはバッテリーにぶら下がり、燃料は別の親です。ライトが明るいなら、ボンネットを開ける前にバッテリー説は弱まります。日常の合図はこうです。事実がいつも一緒に動くなら、孤立した点数を足す前に「それを所与としたとき」の矢印を描く。同じ規律はベイズ思考や確率論的思考の下にもありますが、ネットワークは多数の更新を同時に整合させる地図です。

​
ベイジアンネットワークを3つの深さで理解する

  • 入門: 咳、熱、クラスに風邪の子、が同時に来たら、三つの独立した票にしない。何が何を起こしやすくするかを先に問う。
  • 実務: 変数を名指し、原因から結果へ矢印を引き、各ノードに親を所与とした粗い確率を書き、証拠が来たら予測も診断も更新する。
  • 上級: グラフは条件付き独立についての主張である。矢印の欠落や向きの逆転は同時分布を変える。疎なグラフでは厳密推論が現実的だが、親やループが増えると計算は膨らむ。

​
起源

UCLA の Cognitive Systems Laboratory にいた Judea Pearl は、あらゆる組み合わせの指数的な表を持たせずに、確率を機械へ入れるためにこの枠組みを育てました。1982 年、AAAI で “Reverend Bayes on Inference Engines: A Distributed Hierarchical Approach” を発表し、木構造のネットワークが局所的なメッセージ伝達で信念を更新できることを示しました。名称 Bayesian networks は 1985 年、Cognitive Science Society での “Bayesian Networks: A Model of Self-Activated Memory for Evidential Reasoning” で使われました。1986 年の Artificial Intelligence 論文 “Fusion, Propagation, and Structuring in Belief Networks” が、表現と厳密推論の技術的中核です。 総合は 1988 年の Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference（Morgan Kaufmann）に現れます。同じ年、Steffen L. Lauritzen と David J. Spiegelhalter は Journal of the Royal Statistical Society Series B に “Local Computations with Probabilities on Graphical Structures” を出し、変数を組み直すことで、木に限らず一般のネットワークでも計算できることを示しました。先行する図的祖先には Sewall Wright のパス図、Ronald Howard と James Matheson のインフルエンスダイアグラムがあります。Pearl の寄与は、一貫した確率の意味論と、実際に動くアルゴリズムでした。 ACM は確率的・因果的推論の計算体系を評して、Pearl に 2011 年の A.M. Turing Award を授与しました（発表は 2012 年 3 月）。ベイジアンネットワークはその計画の確率側です。後の因果側は Causality（2000）にあり、矢印を単なる関連ではなく介入として扱います。

​
要点

ベイジアンネットワークは、不確かな事実を互いに矛盾させないために使うのであって、判断を代行する黒箱ではありません。
1

数字を入れる前にグラフを描く

ノードは、実際に追う変数です。矢印は、親が分かったあともどの変数が依存し続けるかを述べます。矢印が無いことは独立の主張であり、飾りではありません。熱い推薦が同じ上司から二通来たら、それらは親を共有します。別々の矢印にすると、一人の好みを二回数えることになります。
2

同時分布を局所テーブルに分解する

あらゆる組み合わせの総表は不要です。各ノードは親を所与とした自分の確率だけを持ちます。経路を列挙する決定木より遠くまでスケールできるのは、グラフが局所部品を再利用するからです。親集合は小さく保つ。さもないと局所テーブル自身が膨らみます。
3

証拠を双方向に流す

原因は結果を予測します（矢印の下流）。観測された結果は原因も改めます（矢印の上流）。Pearl の要点は、グラフが明示されていれば、通常の確率がもともと両方向を支える、ということです。検査が陽性なら疾患ノードを更新し、その人が危険因子を持たなかったと分かれば、検査の意味へその知らせを戻します。
4

独立の主張を誠実に保つ

ナイーブベイズは星型の特例です。クラスが与えられれば、手がかりは互いに独立。実際の手がかりはしばしば塊になります。Pathfinder の後期版が独立モデルに勝ったのは、リンパ節所見が疾患既知のあとも独立ではなかったからです。親を知ったあとも依存が残るときにだけ、矢印を足します。

​
応用場面

いくつか不確かな事実が親を共有し、一度に複数の信念を改めなければならないときに、この枠組みは本領を発揮します。

家庭と臨床の診断

子どもの熱、発疹、クラスのインフルエンザは、三つの独立した警報ではありません。接触をクラスメイトと自分の子の共通の親として描き、それから更新する。診療でも同じ一手で、検査結果を「どこからも来なかった鉄証」として読まないようにできます。

機械とソフトウェアの切り分け

故障モード、症状、検査を並べます。バッテリー、スターター、燃料は「エンジンがかからない」の異なる親です。ライトが明るければ、部品を替える前にバッテリー仮説を下げます。落ちるサービスでも同じスケッチが使えます。共有設定か、独立した欠陥か。

採用、与信、案件の見直し

相関する証拠は相関として扱う。同一コンテストの二つの賞、同一チームからの二通の推薦は、二つの独立した情報源より弱い。共通の親を紙に書けば、「もう一通」の期待値が膨らみません。

データが薄い公共リスク

流行、洪水注意、故障報告は、検査、基礎率、共通の曝露が混ざります。ダッシュボードの一つの数字では持てないリンクを、ネットワークが支えます。決定を変える観察はどれか、と問うために使い、偽の精密さは作らない。

​
事例

Pathfinder はリンパ節病理診断のための意思決定論的エキスパートシステムで、1983 年、スタンフォードの研究者——David Heckerman、Eric Horvitz、Larry Fagan を含む——と南カリフォルニア大学の Bharat Nathwani の共同プロジェクトとして始まりました。領域は大きい。リンパ節に関わりうる疾患は 60 を超え（良性 25、ホジキンリンパ腫 9、非ホジキンリンパ腫 18、転移 10）、顕微鏡・臨床・検査・免疫・分子の特徴は 130 を超えます。 初期版は、疾患を所与とすれば所見は独立とみなしました。後期版は信念ネットワークを使い、所見同士の依存を表せるようにしました。Heckerman、Horvitz、Nathwani は 1989 年の SCAMC 報告で二つの知識ベースを比較しています。専門家評点の平均は、独立モデルの 7.99（標準偏差 2.32）から、依存モデルの 8.94（標準偏差 1.51）へ上がりました。意思決定論的スコアは micromort で、平均 340 から 16 へ下がりました。著者らは差を一例あたり約 300 micromort と示し、専門家の換算（1 micromort あたり 20 ドル）では約 6,000 ドルとしました。 Heckerman と Nathwani の 1992 年論文（Computers and Biomedical Research 第25巻、56–74頁）は、それらの依存を表すことは費用対効果があり、より複雑な Pathfinder は Pathfinder の専門家と少なくとも同程度に正確だと結論づけました。1990年代初頭、商用の派生である Intellipath は数百人の病理医に使われていました。教訓は構造です。グラフが報いたのは、手がかりが独立だと装わなかったからです。限界の注記：Pathfinder は疾患が互いに排他的で網羅的だと仮定しました。多くの雑然とした決定は、その仮定を共有しません。

​
限界と失敗パターン

ベイジアンネットワークの誠実さは、矢印の誠実さです。原因と結果を逆に描く、あるいは共有する親を落とすと、更新は精密に見えながら、間違った問いに答えます。それはグラフの誤りであり、ソフトウェアの不具合ではありません。 厳密推論も無料ではありません。木では局所的なメッセージ伝達が効率的です。密なグラフや、親の多いノードでは、局所テーブルも計算も急速に膨らみます。そのときモンテカルロシミュレーションなどの近似は、任意の追加ではなく道具になります。巨大なネットワークを、それだけでより科学的だと思わないことです。 後の因果的な読みは、別の主張です。傘を持っている人が雨も見ている、と観測しても、傘を強制的に持たせたら何が起きるとは言えません。因果思考と Pearl の介入の計算が、その余分な問いを立てます。すべての矢印を、すでに倒せるレバーであるかのように使うのが、よくある誤用です。

​
よくある誤解

この名は三つの近道を誘い込みます。枠組みを一つの公式に畳むこと、すべての矢印を因果とみなすこと、ノードが多いほど真実に近いと思うことです。
ベイズの法則は局所的な更新です。ネットワークは、どの更新が互いに影響してよいかを定める地図です。ナイーブベイズはごく小さなグラフで、クラスのノードに独立した子がぶら下がります。役に立つネットワークの多くは、その星型ではありません。
矢印は、確率モデルにおける直接の依存を符号化します。因果の知識から引くこともできますが、関連、時間順、都合のよい分解である場合もあります。介入はさらなる一歩であり、作図の無料の贈り物ではありません。
余分な親は埋めなければならない表を膨張させ、余分なループは厳密推論を難しくします。独立を誠実に置いた小さなグラフの方が、推測の数字で混んだグラフより予測が良いことはよくあります。

​
関連概念

これらのページは同じ問題の隣にあります。不確かな信念を、手がかりをすべて独立とみなさずに改めるにはどうするか。

ベイズ思考

証拠が来たら事前を更新する習慣。ネットワークはその習慣を多数の変数へ広げたもの。

確率論的思考

強制的なはい/いいえではなく、信念の程度を保つ。

因果思考

矢印が関連だけでなく介入を意味すべきとき。

決定木

選択と機会を経路ごとに描く地図。依存グラフの補完であり、同一ではない。

期待値

更新後の確率を比較可能な数にする採点規則。

モンテカルロシミュレーション

厳密なメッセージ伝達の代わりに、サンプリングで難しい照会を近似する。

​
一言で言うと

数字を掛ける前に「それを所与としたとき」の矢印を描き、新しい証拠には、その矢印が本当につないでいるノードだけを改めさせる。