[論文レビュー] Interacting Particle Markov Chain Monte Carlo

Tom Rainforth, Christian A. Naesseth+5 more|arXiv (Cornell University)|Feb 16, 2016

Markov Chains and Monte Carlo Methods参考文献 24被引用数 10

ひとこと要約

本稿では、動的インデックススワッピングを用いた並列SMCおよびCSMCサンプラーのプールを用いることで混合性と収束性を向上させる、新しいPMCMC手法である相互作用型粒子マルコフ連鎖モンテカルロ（iPMCMC）を提案する。同等の計算予算下で非相互作用型または単一サンプラー型PMCMCと比較して顕著に優れた性能を発揮し、分散処理およびマルチコアシステムに非常に適している。

ABSTRACT

We introduce interacting particle Markov chain Monte Carlo (iPMCMC), a PMCMC method based on an interacting pool of standard and conditional sequential Monte Carlo samplers. Like related methods, iPMCMC is a Markov chain Monte Carlo sampler on an extended space. We present empirical results that show significant improvements in mixing rates relative to both non-interacting PMCMC samplers, and a single PMCMC sampler with an equivalent memory and computational budget. An additional advantage of the iPMCMC method is that it is suitable for distributed and multi-core architectures.

研究の動機と目的

• 条件付きSMCステップにおけるパスの劣化により生じる標準的粒子ギブス（PG）サンプラーの混合性の悪さを是正すること。
• 複数のSMCおよびCSMCサンプラー間の相互作用を可能にすることで、状態空間モデルにおけるMCMCの混合性を向上させること。
• マルチコアおよび分散コンピューティングアーキテクチャに適した、スケーラブルで並列性が著しいアルゴリズムを設計すること。
• すべてのノードにおける粒子集合の拡張空間上での部分的崩壊ギブスサンプラーとしての理論的基盤を提供すること。
• 同等の計算コスト下で、独立サンプラーおよび単一サンプラーのベースラインと比較して優れた性能を示すこと。

提案手法

• 同じデータを処理するが異なる粒子軌跡を持つN個の並列SMCおよびCSMCサンプラー（以下、ノード）のプールを維持する。
• 各MCMCスイープ後、各ノードの周辺尤度推定値に基づいて、ノードの役割（SMCまたはCSMC）を再割り当てするギブズ更新を実行する。
• ノード間でのインデックススワッピングを用いることで、異なる軌跡からの粒子をサンプリング可能とし、探索性を高め、パスの劣化を軽減する。
• ノード間の通信は周辺尤度推定値と役割割の割り当てのみに限定され、最小限の通信量で実現可能である。
• 本手法は、すべてのノードにおける粒子集合の拡張空間上での部分的崩壊ギブスサンプラーとして形式的に証明されている。
• 任意の数の相互作用型CSMCおよびSMCノードを許容する点で、従来のPMCMC手法（例：α-SMCベースの手法）を一般化している。

実験結果

リサーチクエスチョン

• RQ1 複数のSMCおよびCSMCサンプラー間の相互作用は、計算コストを増加させずに粒子MCMCの混合性を向上させることができるか？
• RQ2 SMCおよびCSMCノード間での動的役割スイッチング機構は、収束性および有効サンプルサイズ（ESS）にどのように影響を与えるか？
• RQ3 iPMCMCは、理論的妥当性を保ちながら、分散またはマルチコアシステムにどの程度スケーリング可能か？
• RQ4 iPMCMCは、非相互作用PGサンプラーおよび同じ合計計算コストを持つ単一PGサンプラーを上回る性能を発揮するか？
• RQ5 スイッチング確率と混合効率を最大化するには、SMCノードとCSMCノードの最適なバランス（P対M）は何か？

主な発見

• iPMCMCは、非相互作用PMCMCサンプラーおよび同等の計算予算下での単一PGサンプラーと比較して、顕著に混合速度が向上している。
• 複数の合成データセットにおいて、後方モーメント推定値（平均、分散、歪度、尖度）の収束性が向上しており、特にP/M ≈ 1/2の場合に顕著である。
• 有効サンプルサイズ（ESS）は、iPMCMCが直列化または独立型の変種と比較して一貫して高く、特に非線形状態空間モデルにおいて顕著である。
• iPMCMCの正規化されたESSは、32倍長く実行された単一PGチェーン、または32倍の粒子数を用いたものと同等またはそれを上回っており、優れた計算効率を示している。
• スイッチング確率が最大になるのは、約半数のノードがCSMC、残り半数がSMCである場合であり、これは経験則の妥当性を裏付けている。
• 本手法はネイティブに分散処理可能であり、通信量も最小限に抑えられるため、並列処理およびハイパフォーマンスコンピューティング環境に非常に適している。