[論文レビュー] Reversible jump Markov chain Monte Carlo and multi-model samplers

Yanan Fan, Scott A. Sisson+1 more|arXiv (Cornell University)|Jan 13, 2010

Markov Chains and Monte Carlo Methods参考文献 75被引用数 33

ひとこと要約

この論文は、次元が異なるモデル間を探索できる強力なベイズ推論手法である、可逆ジャンプマルコフ連鎖モンテカルロ（RJ-MCMC）法について包括的な概説を提供している。メトロポリス・ハスティングス法を次元が変化する移動に対応させるように拡張することで、RJ-MCMCはモデルインデックスとモデル固有のパラメータを同時に推定可能となり、複数のモデルにおける完全な事後分布推論を可能にする。主な貢献は理論的基盤、性能向上技術、およびマルチモデル問題における出力解析にわたる。

ABSTRACT

To appear in the second edition of the MCMC handbook, S. P. Brooks, A. Gelman, G. Jones and X.-L. Meng (eds), Chapman & Hall.

研究の動機と目的

• 次元が異なるパrameter空間を有するベイズモデル比較のための、可逆ジャンプMCMCアルゴリズムの理論的および実用的概説を提供すること。
• モデル間でパラメータ空間の次元が変化する状況においてMCMCサンプリングを実行するという課題に取り組むこと、これはモデル選択やモデル平均化において一般的な問題である。
• 並列温度法、ポピュレーションMCMC、逐次モンテカルロといった高度な技術を提示し、RJ-MCMCサンプラーにおける混合性と収束性の向上を図ること。
• 具体例と出力解析および収束評価のためのベストプラクティスを提供することで、研究者がRJ-MCMCを実装するのを支援すること。
• 自動化、適応的MCMC、完全シミュレーション、マルチモデル設定における尤度フリー推論といった未解決の研究課題を特定すること。

提案手法

• パラメーターベクトルの次元がモデル間で変化する一般状態空間に対して、標準的なメトロポリス・ハスティングス法を拡張し、詳細なバランス条件を用いてターゲット事後分布が不変となるように保証する。
• 可逆ジャンプ遷移カーネルを用い、異なる次元のモデル間を移動可能にする。新しい状態を別のモデル空間で提案し、事後密度と提案密度の比に基づいて受容確率を計算する。
• 受容確率の公式を用いる：$\alpha(\boldsymbol{\theta}, \boldsymbol{\theta}^\prime) = \min\left\{1, \frac{\pi(\boldsymbol{\theta}|\boldsymbol{x}) q(\boldsymbol{\theta}, \boldsymbol{\theta}^\prime)}{\pi(\boldsymbol{\theta}^\prime|\boldsymbol{x}) q(\boldsymbol{\theta}^\prime, \boldsymbol{\theta})} \right\}$、これにより詳細なバランスが保証され、結合事後分布への収束が確保される。
• 補助変数法と幾何的サンプリング技術を用いて、特にネストされたモデル設定において混合性を向上させる。固定次元空間からのサンプルをモデル固有の部分空間に変換することで実現する。
• 並列温度法やポピュレーションMCMCといった高度なサンプリング戦略を統合し、複数のチェインが事後分布の温度調整版をターゲットとし、状態を交換することで、異なるモデル間での混合性を向上させる。
• 逐次モンテカルロ（SMC）フレームワークを用い、モデル空間の部分集合に対して複数のSMCサンプラーを走らせ、後でそれらを組み合わせることで、事後確率が低いモデルの探索を改善する。

実験結果

リサーチクエスチョン

• RQ1 パラメータ空間の次元がモデル間で変化する場合に、MCMCサンプリングをどのように拡張して扱えるか。
• RQ2 可逆ジャンプフレームワークにおいて、詳細なバランスと正しい結合事後分布への収束を保証する理論的条件および受容メカニズムは何か。
• RQ3 高次元または多次元モードを持つモデル空間において、RJ-MCMCの混合性と収束性をどのように向上できるか。
• RQ4 並列温度法やSMCのような複数のMCMCサンプラーを組み合わせる際の最も効果的な戦略は何か。
• RQ5 RJ-MCMCの自動化における課題は何か。また、適応的または尤度フリー手法をマルチモデル設定に拡張するにはどうすればよいか。

主な発見

• 可逆ジャンプMCMCアルゴリズムは、モデルインデックスとパラメータ空間を横断する1つのマルコフ連鎖を構築することにより、次元が異なるモデル間での結合事後分布推論を成功裏に可能にする。
• 受容確率の公式により、異なる次元のモデル間を移動する場合でも、正しい結合事後分布 $\pi(k, \boldsymbol{\theta}_k | \boldsymbol{x})$ への詳細なバランスと収束が保証される。
• 並列温度法やポピュレーションMCMCは、単一チェインのRJ-MCMCと比較して、特に複雑で多次元モードを持つ事後分布の領域において、混合性と収束速度を顕著に向上させる。
• 逐次モンテカルロアプローチにより、事後確率が低いモデルの探索がより正確に行えるようになる。これは、モデル空間の異なる領域をターゲットとする複数のサンプラーを組み合わせることで実現する。
• 減衰する適応条件の下で適用された適応的MCMC技術は、サンプラーの効率を向上させることができるが、チェインの履歴と提案の適応処理を注意深く管理する必要がある。
• 完全シミュレーションや尤度フリー推論は、マルチモデルRJ-MCMC文脈ではまだ十分に発展していないため、今後の研究にとって顕著な未解決課題である。