[論文レビュー] Anytime Marginal MAP Inference

Denis Deratani Mauá, Cassio P. de Campos|arXiv (Cornell University)|Jun 27, 2012

Bayesian Modeling and Causal Inference参考文献 6被引用数 10

ひとこと要約

本稿では、木幅が有界な構造を活用することで、多項式時間収束と保証可能な境界を備えた、任意のタイミングで動作する周辺MAP推論のためのアルゴリズムを提案する。特に、多くのMAP変数と中程度の木幅を有する問題において、ParkとDarwicheの体系的探索法よりも優れた性能を示す。これは、時間の経過に伴い上界と下界を動的に改善することで達成される。

ABSTRACT

This paper presents a new anytime algorithm for the marginal MAP problem in graphical models. The algorithm is described in detail, its complexity and convergence rate are studied, and relations to previous theoretical results for the problem are discussed. It is shown that the algorithm runs in polynomial-time if the underlying graph of the model has bounded tree-width, and that it provides guarantees to the lower and upper bounds obtained within a fixed amount of computational resources. Experiments with both real and synthetic generated models highlight its main characteristics and show that it compares favorably against Park and Darwiche's systematic search, particularly in the case of problems with many MAP variables and moderate tree-width.

研究の動機と目的

• 大規模または複雑なネットワークでは正確な計算が困難となるグラフィカルモデルにおける周辺MAP推論の課題に対処すること。
• 計算時間が経過するにつれて、周辺MAP解の境界を段階的に改善する任意のタイミングアルゴリズムを開発すること。
• 特に木幅が有界なモデルに対して、固定された計算制限内での境界の品質について理論的保証を提供すること。
• スケーラビリティと効率性の面で、ParkとDarwicheのアプローチのような既存の体系的探索手法を上回ること。
• 多くのMAP変数と中程度の木幅を有する現実世界および合成モデルにおける実用的推論を可能にすること。

提案手法

• アルゴリズムは、分枝限定法の枠組みを用いて、周辺MAP値の上界と下界を段階的に構築する。
• グラフィカルモデルの木幅が有界であることに着目することで、各反復における多項式時間の複雑性を保証する。
• 部分的割り当ての集合を維持し、動的計画法を用いて部分的MAP推定値を効率的に計算する。
• 各ステップで、境界の絞り込みヒューリスティクスに基づいて、最も有望な変数割り当てを拡張の対象とする。
• 探索空間の情報量が多い部分を優先して探索することで、境界を動的に精緻化する。
• 計算時間が増加するにつれて、真の周辺MAP値への収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 計算時間が経過するにつれて、より良い境界を段階的に提供する周辺MAP推論のための任意のタイミングアルゴリズムを設計できるか？
• RQ2 境界の品質と収束速度の観点から、ParkとDarwicheの体系的探索法と比較して、このアルゴリズムの性能はいかがなものか？
• RQ3 木幅が有界であるという仮定のもとで、境界の品質についてどのような理論的保証を提供できるか？
• RQ4 多くのMAP変数と中程度の木幅を有する問題に対して、このアルゴリズムは効果的にスケーリングできるか？
• RQ5 このアルゴリズムは、合成モデルおよび現実世界のモデルの両方で強力な性能を維持できるか？

主な発見

• 木幅が有界なグラフィカルモデルに対して、このアルゴリズムは多項式時間で実行され、スケーラビリティが保証される。
• 固定された計算予算内において、周辺MAP値の保証付き上界と下界を提供する。
• 実験の結果、特に多くのMAP変数を有する問題において、ParkとDarwicheの体系的探索法を上回ることが示された。
• 中程度の木幅設定において、先行手法よりも早くより緊密な境界を達成する。
• 任意のタイミングの性質により、ユーザーはいつでも計算を停止し、信頼できる推定値と信頼区間を得られる。
• 合成モデルおよび現実のモデルにおける実験結果から、多様な推論タスクにおいて本アルゴリズムの頑健性と効率性が確認された。