[論文レビュー] Nested particle filters for online parameter estimation in discrete-time state-space Markov models

Dan Crisan, Joaquı́n Mı́guez|arXiv (Cornell University)|Aug 8, 2013

Target Tracking and Data Fusion in Sensor Networks参考文献 33被引用数 19

ひとこと要約

本稿では、離散時間の状態空間マルコフモデルにおけるオンラインベイジアンパラメータ推定のための再帰的ネスト型パーティクルフィルタを提案する。2層のパーティクルフィルタを用いて、状態と定常パラメータを同時に追跡する。積分の後方分布下での$L_p$収束レートは$\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$を達成し、時間経過に伴い計算複雑性が一定である。

ABSTRACT

We address the problem of approximating the posterior probability distribution of the fixed parameters of a state-space dynamical system using a sequential Monte Carlo method. The proposed approach relies on a nested structure that employs two layers of particle filters to approximate the posterior probability measure of the static parameters and the dynamic state variables of the system of interest, in a vein similar to the recent "sequential Monte Carlo square" (SMC$^2$) algorithm. However, unlike the SMC$^2$ scheme, the proposed technique operates in a purely recursive manner. In particular, the computational complexity of the recursive steps of the method introduced herein is constant over time. We analyse the approximation of integrals of real bounded functions with respect to the posterior distribution of the system parameters computed via the proposed scheme. As a result, we prove, under regularity assumptions, that the approximation errors vanish asymptotically in $L_p$ ($p \ge 1$) with convergence rate proportional to $\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$, where $N$ is the number of Monte Carlo samples in the parameter space and $N imes M$ is the number of samples in the state space. This result also holds for the approximation of the joint posterior distribution of the parameters and the state variables. We discuss the relationship between the SMC$^2$ algorithm and the new recursive method and present a simple example in order to illustrate some of the theoretical findings with computer simulations.

研究の動機と目的

• 非線形的かつ非ガウス型の状態空間モデルにおいて、解析的解が不適切な場合の、定常パラメータのオンラインベイジアン推定の課題に対処すること。
• オフラインまたはバッチパラメータ推定の計算負荷を回避する、再帰的かつ逐次的なモンテカルロ手法の開発。
• 従来のSMC²手法とは異なり、時間経過に伴い計算複雑性が一定を保つアルゴリズムの確保。
• 正則性条件の下で、パラメータおよび状態の後方分布近似の収束に対する理論的保証の提供。
• 有界関数のパラメータおよび状態の後方分布に関する積分の誤差バウンドの確立。

提案手法

• 動的状態変数と定常パラメータの2層構造を持つネスト型パーティクルフィルタアーキテクチャを採用し、階層的構造を形成する。
• 逐次モンテカルロ（SMC）を用いて、連携フィルタリングアプローチにより、パラメータおよび状態の後方分布を再帰的に更新する。
• パラメータ空間におけるパーティクルの劣化を防ぐために、ジャイタリングカーネル機構を導入し、リサンプリング時のロバスト性を確保する。
• パラメータフィルタを状態フィルタの出力を用いて更新する再帰的アップデートスキームを適用し、オンライン適応を可能にする。
• 制御された分散を有するカーネルベースの摂動戦略を用いて、パラメータパーティクル集合内の多様性を維持する。
• 後方期待値の$L_p$近似誤差に対する理論的バウンドを導出し、$N$と$M$（それぞれパラメータ空間および状態空間におけるパーティクル数）に比例して収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 非線形的かつ非ガウス型の状態空間モデルにおいて、定常パラメータと動的状態を同時に推定できる再帰的かつオンラインのパーティクルフィルタリング手法を設計できるか？
• RQ2 提案されたネスト型パーティクルフィルタは、従来のSMC²手法とは異なり、時間経過に伴い計算複雑性が一定を保つか？
• RQ3 パラメータと状態の連合後方分布下での有界関数の積分に対する後方分布近似の理論的収束レートは何か？
• RQ4 近似の誤差バウンドは、パラメータ空間および状態空間におけるパーティクル数にどのように依存するか？
• RQ5 標準的な正則性仮定の下で、$p \geq 1$の$L_p$収束が示せるか？

主な発見

• 提案されたネスト型パーティクルフィルタは、有界関数の積分に対して$L_p$収束を達成し、収束レートは$\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$である。ここで$N$はパラメータパーティクル数、$M$は状態パーティクル数である。
• 正則性条件の下で、パラメータと状態の連合後方分布の近似誤差も、同じレートで収束する。
• 再帰的アルゴリズムは、時間経過に伴い計算複雑性が一定を保つ。これは、時間とともに増大する従来のSMC²手法とは顕著な利点である。
• 理論的解析により、コンact性およびリプシッツ正則性仮定の下で、誤差バウンドが時間に一様かつ時間ステップ数に依存しないことが証明された。
• 制御された分散を有するジャイタリングカーネルの使用により、パーティクルの多様性が確保され、劣化が防止され、安定な長期的推定が可能になる。
• 数値シミュレーションにより、理論的収束レートが確認され、シンプルな状態空間モデルにおける本手法の有効性が示された。