[論文レビュー] Adiabatic Monte Carlo

Michael Betancourt|arXiv (Cornell University)|May 14, 2014

Markov Chains and Monte Carlo Methods参考文献 4被引用数 10

ひとこと要約

この論文では、詳細つり合いと平衡状態を維持しながら、簡単な基本分布を接触ハミルトニアンフローを用いて動的に複雑で多次元の目的分布へと変形する、新しいマークフ・チェイン・モンテカルロ法であるアディアバティック・モンテカルロを提案する。熱力学的プロセスの幾何構造を活用することで、固定された温度スケジュールに依存せずに、高次元で非凸な事後分布の効率的探索が可能となり、安定したサンプリングと正確な分配関数推定を実現する。

ABSTRACT

A common strategy for inference in complex models is the relaxation of a simple model into the more complex target model, for example the prior into the posterior in Bayesian inference. Existing approaches that attempt to generate such transformations, however, are sensitive to the pathologies of complex distributions and can be difficult to implement in practice. Leveraging the geometry of thermodynamic processes I introduce a principled and robust approach to deforming measures that presents a powerful new tool for inference.

研究の動機と目的

• シミュレーテッド・アニーリングやシミュレーテッド・テンパリングといった従来の変形ベースMCMC手法が、剛性のある温度分割に依存し、複雑なモデルでは平衡状態を維持できないという限界を克服すること。
• 平衡熱力学の枠組みを用いて、測度保存変形の原理的で幾何的根拠に基づくアプローチを確立すること。
• 軌道が平衡状態から逸脱する度に逆温度を動的に調整することで、高次元で多次元の事後分布の効率的サンプリングを可能にすること。
• サンプリング中に副産物として得られる分配関数の正確な推定を提供すること。これはベイズ的モデル比較において極めて重要である。

提案手法

• 本手法は、温度パラメータβを用いて密度比を指数関数的に変換することで、基本分布π_Bから複雑な目的分布πへの連続的変形を構築し、π_β ∝ exp(−βΔV)π_Bの形で定式化する。
• 接触ハミルトニアンフローを用いて、異なるβ値における分布間の測度保存変換を定義し、変換の全過程で詳細つり合いと平衡状態を保証する。
• 動的は接触ハミルトニアン系が、状態qと逆温度βを同時に進化させ、βが軌道の現在の平衡分布からの逸脱度に応じて適応的に調整される。
• アルゴリズムは、各βにおける期待ポテンシャルエネルギーΔVの推定にハミルトニアン・モンテカルロを用い、温度の進化を正確に適応させる。
• 積分子は接触構造を保存するように設計されており、フローが体積保存的であり、β全域で正しい不変測度を維持することが保証される。
• 本手法は、軌道が確率質量の中心から逸脱した際にβの進化を遅らせることで、最適な温度分割を動的に決定する。これにより再平衡化が可能になり、メタ安定状態の発生を防ぐ。

実験結果

リサーチクエスチョン

• RQ1 測度変形の幾何的原理的アプローチは、従来のMCMC手法に比べ、多次元で多次元の事後分布のサンプリングにおいて優れているか？
• RQ2 事前に指定された分割に依存せずに、詳細つり合いと平衡状態を維持する連続的かつ動的な温度スケジュールをどのように構築できるか？
• RQ3 接触ハミルトニアンフローは、多次元分布における非連結な等高線集合の効率的探索をどの程度可能にするか？
• RQ4 サンプリングに用いられる同じ動的法則は、各βにおける分配関数の正確な推定も可能か？

主な発見

• アディアバティック・モンテカルロは、シミュレーテッド・アニーリングが失敗するような複雑で多次元の分布に対しても、変形過程中において詳細つり合いと平衡状態を安定的に維持する。
• 本手法は、軌道が確率質量の中心から逸脱した際にβの進化を遅らせることで、最適な温度分割を動的に決定し、再平衡化を可能にし、メタ安定状態の発生を防ぐ。
• シミュレーテッド・テンパリングとは異なり、粗いまたは細かい分割でも無駄なランダムウォーク的挙動を示さず、温度グリッドの手動チューニングを必要としない。
• アルゴリズムは各βにおける分配関数の正確な推定を提供しており、推定誤差はプロット上では見えないほど小さく、8桁の変動に対しても耐えうる。
• 接触ハミルトニアンフローにより、変換が測度保存的であり、すべてのβ値で不変測度が一貫して保たれる。
• 1次元のテストケースでは、アディアバティック・モンテカルロはβ = 0から1までの全範囲を完全に探索でき、シミュレーテッド・アニーリングは粗い分割で失敗し、シミュレーテッド・テンパリングは最適にチューニングされた分割でなければ非効率であった。