[論文レビュー] Systematic vs. Non-systematic Algorithms for Solving the MPE Task

Radu Marinescu, Kalev Kask+1 more|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 15被引用数 19

ひとこと要約

この論文は、ベイジアンネットワークにおける最も確実な説明（MPE）タスクを解くために、系統的でない局所探索手法と比較して、系統的な分枝限定法（BBBTおよびBBMB）を検討している。領域のサイズが2を超えると、BBBT/BBMBは最先端の確率的局所探索（SLS）アルゴリズムを著しく上回ることを示しており、今後最も効果的なMPEソルバーであることが明らかになった。

ABSTRACT

The paper continues the study of partitioning based inference of heuristics for search in the context of solving the Most Probable Explanation task in Bayesian Networks. We compare two systematic Branch and Bound search algorithms, BBBT (for which the heuristic information is constructed during search and allows dynamic variable/value ordering) and its predecessor BBMB (for which the heuristic information is pre-compiled), against a number of popular local search algorithms for the MPE problem. We show empirically that, when viewed as approximation schemes, BBBT/BBMB are superior to all of these best known SLS algorithms, especially when the domain sizes increase beyond 2. This is in contrast with the performance of SLS vs. systematic search on CSP/SAT problems, where SLS often significantly outperforms systematic algorithms. As far as we know, BBBT/BBMB are currently the best performing algorithms for solving the MPE task.

研究の動機と目的

• ベイジアンネットワークにおけるMPEタスクに対して、系統的な分枝限定法（BBBTおよびBBMB）と非系統的な局所探索手法の性能を評価すること。
• CSP/SAT問題とは対照的に、MPE問題において系統的探索が確率的局所探索（SLS）を上回ることを検証すること。
• 探索中に動的に構築されるヒューリスティクス（BBBT）と事前にコンパイルされたヒューリスティクス（BBMB）の違いが、MPEの解の質と効率に与える影響を評価すること。
• 領域サイズの増加に伴う、系統的アプローチと非系統的アプローチのスケーラビリティと頑健性を評価すること。

提案手法

• 本研究では、探索中にヒューリスティクス情報を動的に構築することで変数／値の順序付けを可能にするBBBTと、事前にコンパイルされたヒューリスティクスを利用するBBMBという2つの系統的分枝限定法を採用している。
• 探索空間の効果的な pruning を行うために、ヒューリスティクス推定値を生成するためにパーティショニングベースの推論を用いている。
• 比較のためのベースラインとして、多数の代表的な確率的局所探索（SLS）アルゴリズムが使用されている。
• さまざまなベイジアンネットワーク構造を用いて、領域サイズを増加させた実験が実施されている。
• 解の質と計算効率を指標として評価しており、特に領域の基数が2を超えた場合に注目している。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンネットワークにおけるMPEタスクを解く際、系統的分枝限定法が確率的局所探索（SLS）アルゴリズムを上回るか？
• RQ2 探索中に動的にヒューリスティクスを構築するBBBTと、事前にコンパイルされたヒューリスティクスを用いるBBMBの間で、MPEの解の質と探索効率に差は生じるか？
• RQ3 領域サイズが増加するにつれて、系統的アルゴリズムとSLS手法の間の性能差が顕著になるか？
• RQ4 特に領域が大きい場合において、BBBTおよびBBMBはすべての既知のSLSアルゴリズムを上回るのか？

主な発見

• BBBTおよびBBMBは、領域サイズが2を超えると、すべてのテストされた確率的局所探索（SLS）アルゴリズムを一貫して上回っている。
• 領域基数が増加するにつれて、系統的探索と非系統的探索の間の性能差が拡大しており、この文脈において系統的アプローチのスケーラビリティが顕著に優れていることが示された。
• 探索中にヒューリスティクスを動的に構築するBBBTは、事前にコンパイルされたヒューリスティクスに依存するBBMBよりも優れた解の質を達成している。
• 著者らの知る限り、BBBTおよびBBMBは、MPEタスクを解くためにこれまでで最も効果的なアルゴリズムである。