[論文レビュー] Resampling from the past to improve on MCMC algorithms

Yves F. Atchadé|ArXiv.org|May 16, 2006

Markov Chains and Monte Carlo Methods参考文献 18被引用数 6

ひとこと要約

この論文では、混合性を向上させるために歴史的状態から再サンプリングする「過去からの再サンプリング」手法を導入し、マルコフ連鎖モンテカルロ（MCMC）アルゴリズムにおける収束速度を向上させることを目的としている。適切な再サンプリングスケジュールのもとで、ベイズ的確率的ボラティリティモデルと系統樹モデルにおいて、それぞれ最大50倍および100倍の効率向上を達成しつつ、ターゲット分布を保持している。

ABSTRACT

We introduce the idea that resampling from past observations in a Markov Chain Monte Carlo sampler can fasten convergence. We prove that proper resampling from the past does not disturb the limit distribution of the algorithm. We illustrate the method with two examples. The first on a Bayesian analysis of stochastic volatility models and the other on Bayesian phylogeny reconstruction.

研究の動機と目的

• MCMCアルゴリズムにおける混合性の遅さという課題に取り組み、実用的ベイズ推論を妨げる要因を解消すること。
• ターゲット分布の歪みを伴わずに収束速度を向上させる一般化可能な手法を開発すること。
• 過去のサンプルから再サンプリングすることで、不変分布からのi.i.d.サンプリングに近い近似が得られ、混合性が向上することを示すこと。
• 収束が速い補助過程を用いることで、さらなる効率向上を図るフレームワークを拡張すること。
• 実世界のベイズモデルにおいて、測定可能な性能向上を示す実証的検証を実施すること。

提案手法

• 遷移核 $P$ の代わりに、事前に定めた時刻 $a_k$ において過去の状態の経験的分布 $\{X_B, \ldots, X_{n-1}\}$ から再サンプリングして $X_n$ を生成する。
• 収束の漸近的保証と過剰な再サンプリングの回避の両立を図るため、$\alpha > 1$ を満たす $a_k = b_1 + b_2 k^\alpha$ の再サンプリングスケジュールを用いる。
• 混合性が速い補助マルコフ連鎖 $\{X^{(0)}_n\}$ からの重要度再サンプリングを適用して性能を向上させる。
• スケジュールが $a_n/n \to \infty$ を満たす限り、再サンプリング下でも不変分布が変化しないことを証明する。
• ポisson方程式とマルティンゲール近似の手法を用いて、再サンプリングされた連鎖の幾何的エルゴドリシティおよび一様バウンドを確立する。
• 強大数法則と一様可積分性を活用して、経験的測度 $\mu_n$ がターゲット分布 $\pi$ に収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 MCMC連鎖における過去の状態からの再サンプリングは、ターゲット分布を歪めることなく収束を加速できるか？
• RQ2 収束の高速化と不変測度の保持の両立を保証する再サンプリングスケジュールは何か？
• RQ3 混合性が速い補助過程を用いることで、再サンプリング手法の効率はどのように向上するか？
• RQ4 実用的ベイズモデルにおいて、過去からの再サンプリングは自己相関をどれほど低減し、有効サンプルサイズを向上させ得るか？
• RQ5 再サンプリング手法の理論的保証は、確率的ボラティリティや系統樹モデルのような複雑なモデルへも拡張可能か？

主な発見

• 再サンプリングスケジュールが $a_n/n \to \infty$ を満たす限り、再サンプリングによってターゲット分布 $\pi$ が保持される。
• ベイズ的確率的ボラティリティモデルでは、標準的なギブスサンプリングと比較して、再サンプリング手法が50倍の効率向上を達成した。
• ベイズ的系統樹再構築においては、ベースラインMCMCサンプラーと比較して、本手法が100倍の効率向上を達成した。
• 理論的分析により、補助過程にややきついモーメント条件およびドリフト条件が満たされれば、再サンプリング連鎖の幾何的エルゴドリシティが保証される。
• 補助連鎖からの重要度再サンプリングにより、再サンプリング連鎖は補助連鎖の収束特性をそのままで継承する。
• 一様可積分性と重み付き平均のほとんど確実収束を用いて、経験的測度 $\mu_n$ がターゲット測度 $\pi$ に収束することを確立した。