[論文レビュー] Ecient Particle Markov Chain Monte Carlo { Bayesian inference with a couple of particles

Fredrik Lindsten, Thomas B. Schön|arXiv (Cornell University)|Oct 13, 2011

Statistical Methods and Bayesian Inference参考文献 18被引用数 1

ひとこと要約

本稿では、少数の粒子と大規模なデータセットでも顕著に性能を向上させる、従来のパーティクル・マルコフ連鎖モンテカルロ（PMCMC）手法のロバストな代替手法を提案する。パーティクル・フィルタを用いてプロポーザル・カーネルを再設計することで、非線形／非ガウス型の状態空間モデルにおいても、わずか5個の粒子で正確なベイズ推論を達成する。これは、標準的なPMCMC手法と比較して、粒子数要件が200倍も低減されたことを示している。

ABSTRACT

Recently, Andrieu, Doucet and Holenstein [1] introduced a general framework for using particle lters (PFs) to construct proposal kernels for Markov chain Monte Carlo (MCMC) methods. This framework, termed Particle Markov chain Monte Carlo (PMCMC), was shown to provide powerful methods for joint Bayesian state and parameter inference in nonlinear/non-Gaussian state-space models. However, the mixing of the resulting MCMC kernels can be quite sensitive, both to the number of particles used in the underlying PF and to the number of observations in the data. In this paper we suggest alternatives to the three PMCMC methods introduced in [1], which are much more robust to a low number of particles as well as a large number of observations. We consider some challenging inference problems and show in a simulation study that, for problems where existing PMCMC methods require around 1000 particles, the proposed methods provide satisfactory results with as few as 5 particles.

研究の動機と目的

• 少数の粒子と大規模な観測データセットに対して、従来のPMCMC手法の混合性能の悪さと感度の低さを是正すること。
• 困難な非線形的および非ガウス型の状態空間モデルにおいて、パーティクル・フィルタに基づくMCMCプロポーザルのロバスト性を向上させること。
• 大規模な粒子数に依存しないことで、最小限の計算コストで信頼性の高いベイズ推論を可能にすること。
• リソース制約下でも精度を維持できる、標準PMCMCの実用的代替案を提供すること。

提案手法

• パーティクル・フィルタから導出されるが、少数の粒子数下でも構造的により安定したMCMC用の新しいプロポーザル・カーネルを提案する。
• MCMCMCの受容率に用いる尤度推定値の品質を向上させるために、基本的なパーティクル・フィルタを変更する。
• 粒子数が少ない場合でも状態空間の探索を強化するリウェイトリング戦略を導入する。
• 観測数と粒子数を分離することで、データサイズの増加に対しても耐性を持つようにアルゴリズムを設計する。
• 高次元または複雑な状態空間において、プロポーザル分布の精度を向上させるために、条件付きパーティクル・フィルタフレームワークを用いる。
• 詳細バランスを保持し、真の事後分布への収束を保証することで、PMCMCフレームワーク内での有効性を確保する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ推論の精度を損なわずに、少数の粒子数に対してPMCMC手法をロバスト化できるか？
• RQ2 粒子数を5に減らした場合、提案手法は標準PMCMCと比べてどのように性能を発揮するか？
• RQ3 観測数が増加する状況でも、新しい手法は良好な混合性と収束性を維持できるか？
• RQ4 提案手法は、顕著に少ない粒子数で、既存のPMCMCと同等の結果を達成できるか？

主な発見

• 提案手法は、わずか5個の粒子で満足できる推論結果を達成するが、標準PMCMC手法では通常1000個程度の粒子が必要とされる。
• 少数の粒子数下でも、高次元または複雑な状態空間モデルにおいて、混合性能と安定性が顕著に向上している。
• 粒子数を増加させることなく、大規模なデータセットに対する耐性を達成しており、観測サイズの増大に対しても性能が維持されている。
• シミュレーションスタディの結果、低粒子条件において、有効サンプルサイズと収束速度の両面で、新規手法が既存のPMCMC手法を上回っていることが確認された。