[論文レビュー] On the use of backward simulation in particle Markov chain Monte Carlo methods

Fredrik Lindsten, Thomas B. Schön|arXiv (Cornell University)|Oct 13, 2011

Bayesian Methods and Mixture Models参考文献 27被引用数 16

ひとこと要約

本稿では、非線形かつ非ガウス型の状態空間モデルにおけるベイズ推論において、特に少数の粒子や大規模なデータセットを用いる場合に顕著に混合性と頑健性を向上させる、後向きシミュレーションを組み込んだ粒子ギブス法（PG-BSi）を提案する。粒子ギブス・サンプラーに後向きシミュレーションを統合することにより、劣化の低減と収束性の向上が達成され、困難な推論タスクにおいて標準的な粒子ギブス法や他のPMCMC変種を上回る性能を示す。

ABSTRACT

Recently, Andrieu, Doucet and Holenstein (2010) introduced a general framework for using particle filters (PFs) to construct proposal kernels for Markov chain Monte Carlo (MCMC) methods. This framework, termed Particle Markov chain Monte Carlo (PMCMC), was shown to provide powerful methods for joint Bayesian state and parameter inference in nonlinear/non-Gaussian state-space models. However, the mixing of the resulting MCMC kernels can be quite sensitive, both to the number of particles used in the underlying PF and to the number of observations in the data. In the discussion following (Andrieu et al., 2010), Whiteley suggested a modified version of one of the PMCMC samplers, namely the particle Gibbs (PG) sampler, and argued that this should improve its mixing. In this paper we explore the consequences of this modification and show that it leads to a method which is much more robust to a low number of particles as well as a large number of observations. Furthermore, we discuss how the modified PG sampler can be used as a basis for alternatives to all three PMCMC samplers derived in (Andrieu et al., 2010). We evaluate these methods on several challenging inference problems in a simulation study. One of these is the identification of an epidemiological model for predicting influenza epidemics, based on search engine query data.

研究の動機と目的

• 少数の粒子や大規模なデータセットを用いる際、標準的な粒子ギブス（PG）サンプラーの混合性が著しく劣化する粒子マルコフ連鎖モンテカルロ（PMCMC）手法における問題を解決すること。
• Whiteleyの後向きシミュレーション変更がPGに与える影響を検証し、その頑健性と性能向上を示すこと。
• PGに限らない後向きシミュレーションフレームワークの一般化を試み、PMCMCの三つの主な手法（PMMH、PIMH、PG）の改善版を構築すること。
• 計算制約が厳しい状況下でも正確性を維持しつつ、標準PMCMCの実用的かつ計算効率の良い代替手法を提供すること。

提案手法

• 粒子フィルタと後向きサンプリングを組み合わせ、再サンプリングされた祖先から完全な状態軌道を再構築する、後向きシミュレーションを組み込んだ粒子ギブス法（PG-BSi）を導入する。
• 粒子フィルタの後で、祖先のラインレージを再サンプリングすることで、サンプルされた軌道の多様性と正確性を向上させる後向きシミュレーションを用いる。
• 祖先インデックスと粒子軌道の同時条件付き分布を導出し、正しい事後分布を標的にするよう保証する。
• PGサンプラーに後向きシミュレーションステップを適用し、全粒子とその重みに条件づけた祖先のサンプリング手順を変更する。
• PMMHおよびPIMHサンプラーの提案メカニズムに後向きシミュレーションを統合することで、それらの改善版を構築するPG-BSiフレームワークを拡張する。
• 重要度サンプリングと再サンプリング技術を用いて、高次元または長時間系列問題における重みの劣化を回避し、適切な重み付けを維持する。

実験結果

リサーチクエスチョン

• RQ1 後向きシミュレーションは、粒子数が少ない場合や観測データが多数の状況下でも、粒子ギブス・サンプラーの混合性を顕著に改善できるか？
• RQ2 PG-BSiは、収束速度と正確性の観点で、標準的なPGおよび他のPMCMC手法と比較してどのように性能を発揮するか？
• RQ3 後向きシミュレーションフレームワークは、PMMH や PIMH などの他のPMCMC手法に対しても一般化可能であり、それらの頑健性を向上させることができるか？
• RQ4 PG-BSiが真の事後分布へのエルゴディシティと収束を保証する理論的条件は何か？
• RQ5 特に状態とパラメータの強い依存関係を示すモデルにおいて、PG-BSiは標準PMCMC手法をどのように上回るか？

主な発見

• PG-BSiは、特に少数の粒子を用いる場合に、標準的な粒子ギブス法と比較して顕著に混合性と頑健性が向上している。
• 標準的なPGが劣化や混合性の悪化に苦しむ大規模な観測データセットに対しても、PG-BSiは良好な性能を維持する。
• シミュレーションスタディの結果、PG-BSiは、検索エンジンのクエリデータからインフルエンザ流行モデルを同定するような困難な推論タスクにおいて、標準的なPGを上回ることが示された。
• 後向きシミュレーションアプローチにより、高数の粒子を必要とせずに、非線形的かつ非ガウス型の状態空間モデルにおける状態とパラメータの効果的かつ同時推論が可能となった。
• PG-BSiは、標準的な仮定のもとでエルゴディックかつ収束することが示され、定常性と再帰性の証明により理論的保証が得られた。
• パラメータと状態の強い依存関係が見られる状況では、PMMH や PIMH に対して、PG-BSiがより優れた混合性とより速い収束性を提供する代替手段として有効であることが示された。