[論文レビュー] SMC^2: an efficient algorithm for sequential analysis of state-space models

Nicolás Chopin, Pierre Jacob+1 more|arXiv (Cornell University)|Jan 7, 2011

Target Tracking and Data Fusion in Sensor Networks参考文献 35被引用数 40

ひとこと要約

SMC^2 は、状態空間モデルにおける不確実な尤度を扱うために、状態空間におけるパーティクルフィルタと、パラメータ上での上位レベルの SMC アルゴリズムを組み合わせることで、正確なベイズ推論を可能にする逐次モンテカルロアルゴリズムである。不確実な尤度推定とパーティクル MCMC のリジェネレーションにより、パラメータおよび隠れ状態の両方の事後分布の高精度な近似を達成し、理論的保証と困難なモデルにおける実証的妥当性を兼ね備えている。

ABSTRACT

We consider the generic problem of performing sequential Bayesian inference in a state-space model with observation process y, state process x and fixed parameter theta. An idealized approach would be to apply the iterated batch importance sampling (IBIS) algorithm of Chopin (2002). This is a sequential Monte Carlo algorithm in the theta-dimension, that samples values of theta, reweights iteratively these values using the likelihood increments p(y_t|y_1:t-1, theta), and rejuvenates the theta-particles through a resampling step and a MCMC update step. In state-space models these likelihood increments are intractable in most cases, but they may be unbiasedly estimated by a particle filter in the x-dimension, for any fixed theta. This motivates the SMC^2 algorithm proposed in this article: a sequential Monte Carlo algorithm, defined in the theta-dimension, which propagates and resamples many particle filters in the x-dimension. The filters in the x-dimension are an example of the random weight particle filter as in Fearnhead et al. (2010). On the other hand, the particle Markov chain Monte Carlo (PMCMC) framework developed in Andrieu et al. (2010) allows us to design appropriate MCMC rejuvenation steps. Thus, the theta-particles target the correct posterior distribution at each iteration t, despite the intractability of the likelihood increments. We explore the applicability of our algorithm in both sequential and non-sequential applications and consider various degrees of freedom, as for example increasing dynamically the number of x-particles. We contrast our approach to various competing methods, both conceptually and empirically through a detailed simulation study, included here and in a supplement, and based on particularly challenging examples.

研究の動機と目的

• 隠れ状態のため尤度増分が不確実な状態空間モデルにおける逐次ベイズ推論の課題に対処すること。
• 時間経過に伴い、パラメータおよび隠れ状態の両方の事後分布の高精度な近似を維持する効率的なアルゴリズムを開発すること。
• 閉形式の尤度を必要とせず、繰り返し事後分布の探索を可能にする。これにより、SMC手法の適用範囲を拡張すること。
• 不確実な尤度推定（パーティクルフィルタからの推定）を用いても、正確な事後分布を標的とする理論的根拠に基づいたフレームワークを提供すること。
• 計算負荷の柔軟な適応、特にパーティクル数の動的調整を含め、逐次的および非逐次的推論を両立させること。

提案手法

• パラメータ推定（θ-パーティクル）のための1段階と、状態フィルタリング（x-パーティクル）のためのパーティクルフィルタを用いる2段階の逐次モンテカルロアルゴリズムとして SMC^2 を提案する。
• 尤度増分 $ p(y_t|y_{1:t-1}, \theta) $ の不確実なパーティクルフィルタ推定値を用いて θ-パーティクルに重みを付与し、正しい事後分布を標的とする。
• θ-パーティクルの劣化を防ぎ、パラメータ空間における多様性を維持するため、リサンプリングと MCMC リジェネレーションステップを採用する。
• 正しい事後分布を保持するための適切な MCMC 動作を保証するため、パーティクル マルコフ連鎖モンテカルロ（PMCMC）フレームワークを適用する。
• 各 θ-パーティクルが独立して x 維度におけるパーティクルフィルタを実行する二重構造のパーティクルシステムを導入する。
• 精度と計算コストのバランスを取るために、x-パーティクル数の動的調整を可能にし、効率性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 尤度が不確実な状態空間モデルにおいて、正確な逐次ベイズ推論を実現する SMC アルゴリズムを設計できるか？
• RQ2 パーティクルフィルタをパラメータ上での上位レベルの SMC アルゴリズムに統合することで、正しい事後分布を維持する方法は何か？
• RQ3 尤度が不確実なパーティクルフィルタによる推定を用いた場合、このような二段階 SMC アプローチの理論的および実証的性質は何か？
• RQ4 アルゴリズムは、多様なモデルにわたって安定した性能を発揮するように、逐次的および非逐次的推論を両立できるか？
• RQ5 困難な状態空間モデルにおいて、精度、収束性、計算効率の観点から、SMC^2 は他の手法と比較してどのように優れるか？

主な発見

• SMC^2 は、尤度が不確実であっても、反復的バッチ重要度サンプリング（IBIS）アルゴリズムの正確な近似を提供し、真の事後分布 $ \pi_t(\theta) = p(\theta|y_{1:t}) $ を標的とする。
• 不確実な尤度推定と適切な MCMC リジェネレーションステップのおかげで、各時刻において正しい事後分布が維持される。
• アスレチィックス記録モデルにおける実証的結果から、SMC^2 は 486.11 秒未満のタイムを記録するようなレアイベントの確率を、安定的かつ適切にキャリブレーションされた事後分布推定で高精度に推定できることを示している。
• シミュレーション可能または不確実な推定が可能な場合、尤度が不確実な遷移または観測密度をもつモデルに対しても適応可能である。
• 高次元または複雑な隠れ構造を持つモデルにおいても、SMC^2 は精度と頑健性の観点で、他の手法を上回っている。
• 動的 x-パーティクル数調整などの柔軟な設計選択肢を提供し、精度を損なわずに計算効率を向上させることができる。