[論文レビュー] Efficient particle-based online smoothing in general hidden Markov models: the PaRIS algorithm

Jimmy Olsson, Johan Westerborn|arXiv (Cornell University)|Dec 23, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 25被引用数 7

ひとこと要約

この論文は、一般の隠れマルコフモデルにおける滑ららかさ期待値の効率的かつ線形時間計算を可能にする、新しい粒子ベースのオンラインスムージングアルゴリズムPaRISを紹介する。パスの劣化を是正するために、各粒子に対して複数回のバックワードドローを採用することで、漸近的に線形に増加する分散成長を達成し、弱い仮定のもとで収束性と安定性が保証された中心極限定理を提供する。

ABSTRACT

This paper presents a novel algorithm, the particle-based, rapid incremental smoother (PaRIS), for efficient online approximation of smoothed expectations of additive state functionals in general hidden Markov models. The algorithm, which has a linear computational complexity under weak assumptions and very limited memory requirements, is furnished with a number of convergence results, including a central limit theorem. An interesting feature of PaRIS, which samples on-the-fly from the retrospective dynamics induced by the particle filter, is that it requires two or more backward draws per particle in order to cope with degeneracy of the sampled trajectories and to stay numerically stable in the long run with an asymptotic variance that grows only linearly with time.

研究の動機と目的

• 正確な推論が不可能な一般の隠れマルコフモデルにおいて、オンラインで滑ららかさ期待値を計算する課題に対処すること。
• 標準的な粒子スムージング手法における粒子の祖先パスの劣化という深刻な問題を克服し、軌道の近似精度と安定性を向上させること。
• 線形計算量と最小限のメモリ使用量を備えたアルゴリズムを開発し、非線形かつ非ガウス型の状態空間モデルにおけるスケーラブルでリアルタイムのスムージングを可能にすること。
• 収束結果、特に中心極限定理と分散バウンドを含む理論的保証を提供し、長期的な数値的安定性を確保すること。
• 粒子フィルタが誘導する後向きダイナミクスから、オンザフライでサンプリング可能な実用的かつ実装可能な手法を提供し、逐次モンテカルロ応用におけるロバストネスを向上させること。

提案手法

• 逐次モンテカルロ（SMC）の原則に従い、オンラインスムージングを実行する粒子ベースの高速インクリメンタルスムージングアルゴリズムPaRISを提案する。
• 粒子フィルタの出力から祖先系列を模擬するための、受容棄却サンプリングに基づくバックワードサンプリング機構を導入し、後向きパス再構築を可能にする。
• パス劣化の是正のため、各粒子に対して2回以上のバックワードドローを要件とし、時間経過に伴う数値的安定性を維持する。
• 条件付き独立な確率変数の三角配列を用い、条件付き極限定理を適用することで、漸近正規性と収束性を確立する。
• 滑ららかさ分布のフェインマン＝カック表現を活用し、粒子系における前向きと後向き遷移の双対性を応用する。
• 受容棄却アルゴリズムの修正版を用いて、重みと祖先インデックスを時間の逆方向に伝播させるバックワード反復スキームを適用し、滑ららかさ期待値の一貫的かつ不偏な推定を保証する。

実験結果

リサーチクエスチョン

• RQ1 一般の隠れマルコフモデルにおいて、粒子数と時間に対して線形計算量であり、分散成長が時間とともに有界なオンライン粒子スムージングアルゴリズムを設計できるか？
• RQ2 計算コストを増加させることなく、オンラインスムージングにおける粒子の祖先パス劣化を効果的に緩和できるか？
• RQ3 弱い正則性仮定のもとで、粒子ベースのオンラインスムージングアルゴリズムに対して、収束性や中心極限定理といった理論的保証を確立できるか？
• RQ4 固定数の粒子しか使用しない状況でも、長時間にわたって数値的安定性と精度を維持できるか？
• RQ5 滑ららかさ推定子の漸近的分散の挙動は何か？ また、時間やモデルパラメータとどのようにスケーリングされるか？

主な発見

• PaRISは、粒子数と時間に対して線形計算量を達成しており、長時間系列へのスケーラビリティを実現する。
• アルゴリズムは、時間とともに線形に増加する漸近的分散を保証しており、二次的または指数的増加を示すナイーブなスムージング手法に比べ顕著な改善を示す。
• 滑ららかさ推定子に対して中心極限定理が確立され、弱いモーメント条件および混合条件のもとで漸近正規性が確認された。
• パス劣化が存在する状況でも、時間経過に伴う収束性と誤差伝播の有界性が保証され、安定性が裏付けられた。
• 理論的解析により、漸近的分散がモデルパラメータ（スペクトルギャップや収縮率を含む）に依存する定数で一様に有界であることが示された。
• 周辺スムージングの文脈では、漸近的分散が関数の変動とモデル固有定数に比例する定数で有界であり、極限の明示的表現が導出された。