[論文レビュー] Importance sampling type correction of Markov chain Monte Carlo and exact approximations

Matti Vihola, Jouni Helske+1 more|arXiv (Cornell University)|Sep 8, 2016

Markov Chains and Monte Carlo Methods被引用数 3

ひとこと要約

本稿では、MCMCを近似周辺分布上で実行する場合に、結合分布に対する一貫性のある推論を達成するために、近似MCMC出力に対する重要度サンプリング（IS）型補正を提案する。不偏推定量を活用することで、並列処理が容易になり、特に状態空間モデルにおける粒子スムージングを用いた場合、遅延受容MCMCよりも計算効率と分散制御において優れる。

ABSTRACT

We use an importance sampling (IS) type correction of approximate Markov chain Monte Carlo (MCMC) output in order to provide consistent estimators. The IS approach, based on unbiased estimators, provides often a natural alternative to delayed acceptance (DA) MCMC, but contrary to DA-MCMC, benefits from straightforward parallelisation. We focus on the case where the MCMC simulation is conducted on an approximate marginal distribution, and the IS type correction leads to consistent inference on the corresponding joint distribution. Such a case allows for importance sampling analogues of pseudo-marginal type MCMC methods, such as the grouped independence Metropolis-Hastings and the particle marginal Metropolis-Hastings. We prove strong consistency of the suggested estimators under mild assumptions, and provide central limit theorems with expressions for asymptotic variances. The methods are illustrated in practice with state space models, where we also remind that IS correction provides an easy way to combine several independent particle smoothers in order to obtain a consistent estimator with natural confidence intervals. Our experimental results are promising and show that IS type approach can be favourable against a computationally comparable DA scheme.

研究の動機と目的

• MCMCがバイアスのある周辺分布からサンプリングする場合に生じる近似MCMC手法の不一致を解消すること。
• MCMCが近似ターゲットに適用される状況において、結合分布に対する一貫性のある推論フレームワークを構築すること。
• 遅延受容MCMCの代替として、計算効率が高く並列処理に優れた手法を提供すること。
• グループ化独立メトロポリス・ハスティングスや粒子マルチプルメトロポリス・ハスティングスなどの擬似周辺MCMC手法へもこのアプローチを拡張すること。
• 強い一貫性と漸近正規性を含む理論的保証を確立し、明示的な分散表現を提供すること。

提案手法

• 真の周辺分布と近似周辺分布の比の不偏推定量を用いて、近似周辺分布からのMCMC出力に対して重要度サンプリングを適用する。
• 真の結合分布下での期待値の推定器を、真の密度と近似密度の比から導かれる重要度重みを用いて重み付けすることで一貫性のある推定器を構築する。
• 擬似周辺MCMCの構造を活用し、グループ化独立メトロポリス・ハスティングスや粒子マルチプルメトロポリス・ハスティングスなどの手法に対するISアナロジーを導出する。
• 近似および提案メカニズムにやや弱い正則性条件を課すことにより、強い一貫性が保証されることを証明する。
• 漸近分散の明示的表現を導出し、中心極限定理を確立することで、信頼区間を用いた推論が可能になる。
• 状態空間モデルでは独立な粒子スムージングを用い、それらをIS補正によって統合することで、自然な分散推定を伴う一貫性のある推定器を構築する。

実験結果

リサーチクエスチョン

• RQ1 MCMCが近似周辺分布上で実行される場合に、重要度サンプリング補正が真の結合分布下での期待値を一貫して回復できるか。
• RQ2 計算効率と分散性能の観点から、提案されたIS補正は遅延受容MCMCに比べてどのように差をつけるか。
• RQ3 IS補正は、グループ化独立メトロポリス・ハスティングスや粒子マルチプルメトロポリス・ハスティングスなどの擬似周辺MCMC手法へ自然に拡張可能か。
• RQ4 やや弱い仮定のもとで、補正済み推定量の理論的性質（強い一貫性や漸近正規性など）は何か。
• RQ5 IS補正を用いて、状態空間モデルにおける複数の独立な粒子スムージングを統合し、信頼性のある信頼区間を伴う一貫性のある推定器を得られるか。

主な発見

• 提案されたIS補正により、MCMCが近似周辺分布上で実行されても、真の結合分布下での期待値に対する強い一貫性のある推定量が得られる。
• 漸近分散の明示的表現が得られ、信頼区間の構築や統計的推論が可能になる。
• ISアプローチは並列処理を容易にし、遅延受容MCMCに比べて実用的な利点を有する。
• 状態空間モデルでは、複数の独立な粒子スムージングをIS補正によって統合することで、自然な信頼区間を伴う一貫性のある推定器が得られる。
• 実験結果から、IS手法は計算コストが同等の遅延受容スキームに比べ、分散と効率性の両面で優れていることが示された。