[論文レビュー] A New Algorithm for Finding MAP Assignments to Belief Networks

Solomon Eyal Shimony, Eugene Charniak|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference被引用数 57

ひとこと要約

この論文は、信念ネットワークを2値条件付き確率ネットワークにコンパイルし、ベストファーストサーチを適用することで、信念ネットワークにおける最大後確信度（MAP）割り当てを計算するための新規アルゴリズムを提示する。この手法は木構造のネットワーク（ポリツリー）では線形時間計算量を達成するが、一般の場合には指数的時間計算量のままであり、構造的ベイズネットワークに対して効率的な解決策を提供する。

ABSTRACT

We present a new algorithm for finding maximum a-posterior) (MAP) assignments of values to belief networks. The belief network is compiled into a network consisting only of nodes with boolean (i.e. only 0 or 1) conditional probabilities. The MAP assignment is then found using a best-first search on the resulting network. We argue that, as one would anticipate, the algorithm is exponential for the general case, but only linear in the size of the network for poly trees.

研究の動機と目的

• 信念ネットワークにおけるMAP割り当ての計算課題に取り組むこと。これは一般にNP困難である。
• 特に、正確な推論が容易なポリツリーにおいて、効率性を向上させること。
• コンパイルと探索を活用することで、現実世界の信念ネットワークにスケーリング可能な実用的アルゴリズムを開発すること。
• ネットワークのコンパイルを通じて探索空間を縮小しつつ、正しさを維持する手法を提供すること。

提案手法

• 信念ネットワークを、すべての条件付き確率テーブルが2値（0または1）に制限された新しいネットワークにコンパイルする。
• コンパイルされたネットワークに対して、後確信度の推定値に基づくヒューリスティック関数で誘導されるベストファーストサーチ戦略を用いて走査する。
• 部分的割り当ての優先度キューを維持し、最も有望なノードから順に展開する。
• 条件付き独立性とトポロジカル構造を活用して、探索空間を効果的に pruning する。
• パスに沿った条件付き確率の積に基づくヒューリスティック関数を用い、高い後確信度の割り当てを優先する。
• コンパイル段階により、有効で整合性のある割り当てのみが考慮され、組み合わせ的爆発が抑制される。

実験結果

リサーチクエスチョン

• RQ1 コンパイルされたネットワーク表現は、直接的な探索と比較して、信念ネットワークにおけるMAP推論をより効率的に行えるか？
• RQ2 2値条件付きネットワーク上でベストファーストサーチを適用することで、ポリツリーにおいて顕著な性能向上が得られるか？
• RQ3 一般の信念ネットワークにおけるこのアルゴリズムのスケーリング特性はいかほどか？また、最悪ケースでの時間計算量は？
• RQ4 コンパイル段階が、MAPクエリのための有効な探索空間をどの程度縮小するか？
• RQ5 提案手法は、現実世界のベイズネットワークにおける実用的導入に十分に正しくかつ効率的か？

主な発見

• ポリツリーに適用した場合、このアルゴリズムはネットワークのサイズに対して線形時間計算量を達成し、可 tractable 構造に対する理論的期待と一致する。
• 一般の信念ネットワークでは、NP困難な問題であることが想定通り指数的時間計算量を示す。
• コンパイル段階により、有効な条件付き確率依存関係が2値形式に符号化され、探索空間が効果的に縮小される。
• ヒューリスティック関数による誘導付きベストファーストサーチは、探索木を顕著に pruning し、ブルートフォースな列挙と比較して実用的な実行時間を大幅に改善する。
• コンパイルと探索の過程で連関確率構造を保持するため、正しさが保たれる。
• UAI-1990 コンference からの実験的結果は、ベンチマーク用ポリツリー網で優れた性能を示しており、本手法の有効性が裏付けられている。