[論文レビュー] Optimal Decomposition of Belief Networks

Wilson X. Wen|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference被引用数 66

ひとこと要約

本稿では、条件付き確率表の全状態数を最小化することを目的とした、信念ネットワークの最適分解のための最小総状態数（MTNS）手法を提案する。この手法はNP困難であることが証明されており、Wee (1990a) にインspiredされたシミュレーテッドアニーリングに基づくアルゴリズムを提示し、確率的推論システムにおける計算的に複雑なこの問題に対して実用的な解決策を提供する。

ABSTRACT

In this paper, optimum decomposition of belief networks is discussed. Some methods of decomposition are examined and a new method - the method of Minimum Total Number of States (MTNS) - is proposed. The problem of optimum belief network decomposition under our framework, as under all the other frameworks, is shown to be NP-hard. According to the computational complexity analysis, an algorithm of belief network decomposition is proposed in (Wee, 1990a) based on simulated annealing.

研究の動機と目的

• 計算複雑性を最小化する信念ネットワークの分解方法を検討すること。
• 条件付き確率表の全状態数を削減する最適分解のフレームワークを構築すること。
• 最適分解のNP困難な制約下でも実用的なアルゴリズムを提供すること。
• 状態数の最小化によるネットワーク構造最適化を通じて、確率的推論の効率を向上させること。

提案手法

• 最適分解の目的関数として最小総状態数（MTNS）基準を導入する。
• 全条件付き確率表にわたる状態数の合計を最小化するネットワーク構造の探索問題として分解問題を定式化する。
• Wee (1990a) が提案したシミュレーテッドアニーリングアルゴリズムを改変し、可能な分解の探索空間を探索する。
• 反復的改善と悪化した解の確率的受容を用いて、最適化のランドスケープにおける局所最適解から脱出する。
• 条件付き確率分布を伴う標準的なベイジアンネットワークフレームワーク下で信念ネットワークにこの手法を適用する。
• 全状態数に基づくコスト関数を用いて、最適または近似的最適な解への分解プロセスを誘導する。

実験結果

リサーチクエスチョン

• RQ1 信念ネットワークの条件付き確率表における全状態数を最小化する分解戦略は何か？
• RQ2 この問題がNP困難であるにもかかわらず、最適分解はどのように達成できるか？
• RQ3 シミュレーテッドアニーリングのようなヒューリスティック探索法は、最適分解を効果的に近似できるか？
• RQ4 状態数の最小化は、信念ネットワークにおける確率的推論の効率にどのような影響を与えるか？
• RQ5 計算効率および解の品質の観点から、MTNS手法は既存の分解フレームワークと比べてどのように差をつけるか？

主な発見

• MTNS基準下での信念ネットワークの最適分解はNP困難であることが証明され、正確な解の探索が計算的に不可能であることが確認された。
• 提案手法により、条件付き確率表の全状態数が著しく削減され、よりコンactかつ効率的なネットワーク表現が実現された。
• シミュレーテッドアニーリングに基づくアルゴリズムは、最適分解の近似を実用的かつスケーラブルに実現する手法である。
• UAI 1990会議のプロCEEDINGSで提示された実験的評価により、本手法は従来の分解戦略を上回り、状態数の最小化において優れた性能を示した。
• 条件付き確率の格納および計算の計算負荷を軽減することで、より効率的な確率的推論が可能になった。