[論文レビュー] Bayesian structure learning using dynamic programming and MCMC

Daniel Eaton, Kevin J. Murphy|arXiv (Cornell University)|Jun 20, 2012

Bayesian Modeling and Causal Inference参考文献 30被引用数 84

ひとこと要約

本稿では、DAG 上でのマルコフ連鎖モンテカルロ（MCMC）サンプリングにおいて、動的計画法（DP）を提案分布として用いるハイブリッドベイジアン構造学習手法を提案する。DP が正確なエッジの後方確率を計算できる能力を活用することで、MCMC の混合が悪いという問題を克服しつつ、非モジュラーな事前分布や予測密度推定の柔軟性を保ち、テストデータにおける収束速度の向上と予測精度の向上を実現する。

ABSTRACT

MCMC methods for sampling from the space of DAGs can mix poorly due to the local nature of the proposals that are commonly used. It has been shown that sampling from the space of node orders yields better results [FK03, EW06]. Recently, Koivisto and Sood showed how one can analytically marginalize over orders using dynamic programming (DP) [KS04, Koi06]. Their method computes the exact marginal posterior edge probabilities, thus avoiding the need for MCMC. Unfortunately, there are four drawbacks to the DP technique: it can only use modular priors, it can only compute posteriors over modular features, it is difficult to compute a predictive density, and it takes exponential time and space. We show how to overcome the first three of these problems by using the DP algorithm as a proposal distribution for MCMC in DAG space. We show that this hybrid technique converges to the posterior faster than other methods, resulting in more accurate structure learning and higher predictive likelihoods on test data.

研究の動機と目的

• 局所的で低確率の提案による DAG 空間における標準的 MCMC 法の混合が悪いという問題に対処すること。
• 動的計画法（DP）のベイジアン構造学習における制限、例えば事前分布の種類が制限されることや、予測密度を計算できないことの克服。
• DP の正確さと MCMC の柔軟性を組み合わせ、非モジュラーな事前分布や特徴タイプに対応すること。
• ベイジアンネットワークの構造学習における収束速度と予測性能の向上。
• 一般事前分布と予測推論をサポートしつつ、エッジの後方確率を正確に計算すること。

提案手法

• すべての可能な DAG に対して正確なエッジの後方確率を計算するために動的計画法（DP）を用い、MCMC の提案分布として機能させる。
• DAG 空間におけるメトロポリス・ハスティングス MCMC サンプラー内に DP を提案メカニズムとして統合する。
• DP アルゴリズムがノード順序の解析的マージンを取ることで、順序に関する MCMC を避ける。
• DP を提案のみに使用することで、事前分布の指定に完全な柔軟性を維持（後方分布の完全計算には使用しない）。
• MCMC フレームワークを保持することで予測密度の計算を可能にし、これは純粋な DP では不可能である。
• DP の提案を用いるハイブリッドサンプリング戦略を採用し、MCMC の移動をガイドすることで混合と収束を改善する。

実験結果

リサーチクエスチョン

• RQ1 動的計画法は、DAG のベイジアン構造学習における MCMC の有効な提案メカニズムとして使用可能か？
• RQ2 DP と MCMC を組み合わせることで、DAG 上の標準的 MCMC と比較して収束速度と混合が向上するか？
• RQ3 ハイブリッド手法は、非モジュラーな事前分布をサポートしつつも、エッジの後方確率推定において DP の正確さを維持できるか？
• RQ4 ハイブリッド手法は、純粋な DP や標準的 MCMC と比較して、テストデータにおける予測尤度が高くなるか？
• RQ5 DP を後方分布の近似に使用するベイジアン構造学習フレームワークで、予測密度を正確に計算することは可能か？

主な発見

• ハイブリッド DP-MCMC 法は、DAG 上の標準的 MCMC と比較して、真の後方分布への収束が著しく速い。
• 本手法は、標準的 MCMC や純粋な DP のアプローチと比較して、テストデータにおける予測尤度がより高い。
• DP を提案に使用することで、DP がモジュラーな事前分布しか扱えないという制限を克服し、一般事前分布の使用が可能になる。
• 本手法は予測密度の計算をサポートするが、これは DP が順序をマージン化するため、純粋な DP では不可能である。
• 本手法は DP が提供するエッジの後方確率の正確さを維持しつつ、MCMC サンプリングによる柔軟性を獲得する。
• 実験的結果から、情報に基づいた提案による DAG 空間のより良い探索が、構造学習の精度向上に寄与することが示された。