[論文レビュー] Parallel Markov Chain Monte Carlo

Douglas VanDerwerken, Scott C. Schmidler|arXiv (Cornell University)|Dec 28, 2013

Markov Chains and Monte Carlo Methods参考文献 8被引用数 18

ひとこと要約

この論文は、独立かつ非同期のマルコフ連鎖モンテカルロ（MCMC）を分割と重み推定によって組み合わせることで、一般用途の並列MCMC手法を導入する。これは、単峰性のターゲットに対してもプロセッサ数に比例する線形スループット向上を達成し、多峰性の設定では指数的スループット向上を実現する。収束の厳密性を損なわずに、効率的なサンプリングが可能である。

ABSTRACT

Markov chain Monte Carlo is an inherently serial algorithm. Although likelihood calculations for individual steps can sometimes be parallelized, the serial evolution of the process is widely viewed as incompatible with parallelization, offering no speedup for samplers which require large numbers of iterations to converge to equilibrium. We provide a methodology for parallelizing Markov chain Monte Carlo across large numbers of independent, asynchronous processors. Our approach uses a partitioning and weight estimation scheme to combine independent simulations run on separate processors into rigorous Monte Carlo estimates. The method is originally motivated by sampling multimodal target distributions, where we see an exponential speedup in running time. However we show that the approach is general-purpose and applicable to all Markov chain Monte Carlo simulations, and demonstrate speedups proportional to the number of available processors on slowly mixing chains with unimodal target distributions. The approach is simple and easy to implement, and suggests additional directions for further research.

研究の動機と目的

• 並列コンピューティングの進展にもかかわらず、MCMCの本質的な逐次的性質がスケーラビリティを制限するという問題を克服すること。
• 複数の独立的かつ非同期なMCMCチェーンを用いて、均衡性質の効率的で厳密な推定を可能にすること。
• 平行テンペレーションや適応MCMCなどの複雑なサンプリング手法を含む、任意のMCMCアルゴリズムに適用可能な一般枠組みを提供すること。
• 実証的検証を通じて、単峰性および多峰性のターゲット分布において顕著なスループット向上を示すこと。
• BUGSなどの既存のMCMCソフトウェアと互換性があり、実装が容易な実用的ソリューションを提供すること。

提案手法

• 独立したチェーンからの事後分布サンプルに基づいて、クラスタリング（例：ボロノイ分割）を用いて状態空間を互いに素な領域に分割する。
• 各領域の周辺確率を、それぞれの領域に特化した提案分布を用いた重要度サンプリングにより推定する。
• 各チェーンからのサンプルを、インストルメンタル分布とリサンプリング技術により推定された重みを用いて重み付きで組み合わせる。
• 2段階推定手順を適用する：まず、一部のサンプルを用いて領域の重みを推定し、次にその重みを用いて全チェーンのサンプルを組み合わせて不偏なモンテカルロ推定値を生成する。
• 重み推定のロバスト性を確保するため、重ねた尾を持つt分布をインストルメンタル提案分布として用いる。
• チェーンのシミュレーションと重み推定を分離することで、非同期実行を可能にし、真の並列化を実現する。

実験結果

リサーチクエスチョン

• RQ1 MCMCは、事後推定の妥当性を損なわせることなく、独立的かつ非同期のプロセッサ上で効果的に並列化可能だろうか？
• RQ2 提案手法は、単峰性ターゲット分布において、プロセッサ数に比例する線形スループット向上を達成するだろうか？
• RQ3 従来のMCMCが困難をきたす多峰性分布において、この手法は収束時間を顕著に短縮できるだろうか？
• RQ4 精度と収束速度の観点から、並列化されたMCMCは、シリアルMCMCと比較してどの程度の性能を示すだろうか？
• RQ5 この手法は一般用途に適しており、既存のMCMCソフトウェアや複雑なサンプリングスキームと互換性があるだろうか？

主な発見

• 単峰性のギブスサンプラーにおいて、20倍を超えるスループット向上を達成し、収束までの有効イテレーション数を120万回から6万回未満に削減した。
• 8つの共変数を含む高次元回帰モデルにおいて、並列化されたギブスサンプラーはシリアルチェーンと比較して20倍速く収束した（収束閾値：0.10）。
• ヘテロジゴティックの損失モデルにおいて、並列MCMCは重要度サンプリングと整合性のある事後平均（例：η = 0.816 対 0.814）を生成し、精度が妥当であることを検証した。
• 多峰性設定において指数的スループット向上を示し、問題の次元が高くなるほど性能が著しく向上した。
• 100イテレーション、各領域あたり10,000サンプルを用いたt分布を用いたインストルメンタル提案による重み推定は、安定的かつ正確な事後分布推定を実現した。
• 自己相関係数がβ₂について0.999を超える遅い混合のチェーンにおいても、成功した推定が確認された。これは、シリアルMCMCが極めて多くのイテレーションを要する状況でも本手法が有効であることを示している。