[論文レビュー] Parallel and interacting Markov chains Monte Carlo method

Fabien Campillo, Vivien Rossi|ArXiv.org|Oct 5, 2006

Markov Chains and Monte Carlo Methods被引用数 3

ひとこと要約

本稿では、N 個の連鎖が互いに候補を提案することで、N 個の目標測度の積のための連合 MCMC サンプラーを形成する、並列かつ相互作用的なマルコフ連鎖モンテカルロ（MCMC）手法を提案する。この手法により、特に困難なマルチモーダルな状況において、独立した連鎖よりも混合性と収束性が向上する。

ABSTRACT

In many situations it is important to be able to propose $N$ independent realizations of a given distribution law. We propose a strategy for making $N$ parallel Monte Carlo Markov Chains (MCMC) interact in order to get an approximation of an independent $N$-sample of a given target law. In this method each individual chain proposes candidates for all other chains. We prove that the set of interacting chains is itself a MCMC method for the product of $N$ target measures. Compared to independent parallel chains this method is more time consuming, but we show through concrete examples that it possesses many advantages: it can speed up convergence toward the target law as well as handle the multi-modal case.

研究の動機と目的

• 独立した並列 MCMC 連鎖の限界を解決する。特に、収束に失敗したり、人工的な頑健性を示したりする可能性がある。
• 相互作用的な MCMC 連鎖を用いて、ターゲット分布から N 個の独立したサンプルを生成する戦略を開発する。
• 高次元またはマルチモーダルなターゲット分布における混合性と収束速度を向上させる。
• 連鎖間の相互作用が、複雑なターゲット密度のより良い探索とより速い収束をもたらすことを示す。
• 相互作用系が N 個のターゲット測度の積を標本とする有効な MCMC サンプラーであるという理論的裏付けを提供する。

提案手法

• N 個のマルコフ連鎖を並列に実行し、各連鎖が自らのためだけでなく、他のすべての連鎖のための候補も提案する。
• 各連鎖にメトロポリス・ハスティングス（MH）カーネルを用い、受容確率はターゲット密度と提案密度の比に基づく。
• 連合状態を行列 $ X^{1:N} \in \mathbb{R}^{n \times N} $ として定義し、各列が1つの連鎖の状態を表す。
• 連鎖を逐次更新する：各連鎖 $ i $ に対して、候補 $ Y^i $ を提案し、MH 受容比に基づいて受け入れるかどうかを決定する。
• 連鎖 $ i $ の受容確率は、すべての連鎖の現在の状態に依存しており、情報共有が可能になる。
• 連合プロセスが、測度 $ \pi(X^1)\cdots\pi(X^N) $ を標本とする有効な MCMC サンプラーであることを証明する。これにより、手法の理論的正しさが保証される。

実験結果

リサーチクエスチョン

• RQ1 相互作用的な並列 MCMC 連鎖は、独立した連鎖と比較して収束速度を向上させることができるか？
• RQ2 相互作用メカニズムは、マルチモーダルなターゲット分布における混合性を向上させるか？
• RQ3 収束診断およびサンプリング精度の観点から、相互作用的な MCMC 手法は独立した連鎖と比べてどのように異なるか？
• RQ4 状態空間のより良い探索を保証することで、この手法は「短い連鎖を多数実行する」欠点を回避できるか？
• RQ5 相互作用系が連合 MCMC サンプラーとして有効であるという理論的裏付けは何か？

主な発見

• 相互作用的な MCMC 手法は、N 個のターゲット測度の積を標本とする有効な MCMC サンプラーである。これにより、手法の理論的正しさが保証される。
• 数値実験の結果、各イテレーションの計算コストが高めでも、独立した連鎖よりも相互作用的手法の方が収束が速いことが示された。
• マルチモーダルな例では、相互作用的な連鎖が複数のモードを効果的に探索した一方、独立した連鎖はしばしば1つのモードに閉じ込められていた。
• 隠れマルコフモデルの例では、相互作用的な MwG アルゴリズムが独立した連鎖よりも低い $ L^1 $ 誤差（0.22）を達成し、サンプルサイズが増加するにつれて誤差が減少した。
• マルチモーダルおよび複雑な非線形モデルにおいて、本手法はより頑健で、より速い収束を示した。
• 真の密度との $ L^1 $ 距離に基づく収束指標 $ \varepsilon^k $ は、相互作用的スキームにおいてより速く減少し、より速い混合性が確認された。