[論文レビュー] Solving MAP Exactly using Systematic Search

James D. Park, Adnan Darwiche|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用数 62

ひとこと要約

本稿では、MAP（最大後確信度）問題を正確に解くための新しい分枝限定法を提示する。この手法は、MAP解の確率に対する計算が速やかに行える新しい上界を用いる。本手法は、上界の質と計算時間のトレードオフを活用し、従来の構造ベース手法では到達不可能だった、木幅が40を超える制約付きのベイジアンネットワークに対しても正確な解を可能にする。

ABSTRACT

MAP is the problem of finding a most probable instantiation of a set of variables in a Bayesian network given some evidence. Unlike computing posterior probabilities, or MPE (a special case of MAP), the time and space complexity of structural solutions for MAP are not only exponential in the network treewidth, but in a larger parameter known as the "constrained" treewidth. In practice, this means that computing MAP can be orders of magnitude more expensive than computing posterior probabilities or MPE. This paper introduces a new, simple upper bound on the probability of a MAP solution, which admits a tradeoff between the bound quality and the time needed to compute it. The bound is shown to be generally much tighter than those of other methods of comparable complexity. We use this proposed upper bound to develop a branch-and-bound search algorithm for solving MAP exactly. Experimental results demonstrate that the search algorithm is able to solve many problems that are far beyond the reach of any structure-based method for MAP. For example, we show that the proposed algorithm can compute MAP exactly and efficiently for some networks whose constrained treewidth is more than 40.

研究の動機と目的

• ベイジアンネットワークにおける正確なMAP推論の高い計算複雑性に対処すること。これはMPEや後確率計算よりもコストが高くなる。
• 構造ベース手法の限界を超えてスケーリング可能な実用的な正確なMAPアルゴリズムを開発すること。
• 上界の質と計算コストのバランスを取った、MAP解確率の新しい上界を導入すること。
• 従来の手法では扱えなかった、高い制約付き木幅を持つネットワークに対しても正確なMAP解を可能にすること。

提案手法

• 計算の質と時間のトレードオフが調整可能な、MAP解の確率に対する新しい上界を提案。この上界は、計算が高速に行える。
• この上界を分枝限定法の枠組み内で用い、正確なMAP計算中に探索空間を pruning する。
• 体系的な探索により、変数の割り当て空間を構造的かつ完全に探索する。
• 同等の計算コストを持つ既存手法よりも、よりタイトな上界を設計し、pruning の有効性を向上させる。
• 上界を、正しさを保ちつつ探索の負荷を著しく低減する探索アルゴリズムに統合する。

実験結果

リサーチクエスチョン

• RQ1 計算コストと質のバランスを取った、MAP解確率の新しい上界を設計できるか？
• RQ2 この上界を分枝限定法フレームワークに効果的に組み込み、高い制約付き木幅を持つネットワークの正確なMAPを解けるか？
• RQ3 提案手法は、ハードなMAPインスタンスにおいて、既存の構造ベース手法を上回る性能を示せるか？
• RQ4 上界のチューナブル性が、多様なベイジアンネットワーク構造にわたる探索性能をどの程度向上できるか？

主な発見

• 提案された上界は、同等の計算コストを持つ既存手法よりも顕著にタイトであり、探索プロセスにおけるpruning効果が顕著に向上する。
• 分枝限定法は、木幅が40を超えるベイジアンネットワークにおける正確なMAP問題を成功裏に解ける。これは従来の構造ベース手法では不可能であった。
• 本手法は顕著なスケーラビリティの向上を示し、従来では処理可能とされなかったオーダーの複雑なインスタンスを解けるようになった。
• 上界の質と計算時間のトレードオフにより、ユーザーが利用可能なリソースに応じてアルゴリズムを調整可能であり、正しさを損なわない。