[論文レビュー] Theory of Parallel Particle Filters for Hidden Markov Models

Hock Peng Chan, Chiang Wee Heng+1 more|arXiv (Cornell University)|Sep 15, 2014

Bayesian Methods and Mixture Models参考文献 9被引用数 5

ひとこと要約

本稿では、隠れマルコフモデル（HMM）の潜在状態系列を短い部分に分割し、それぞれを独立して処理するパーティクルフィルタで並列計算を可能にする、並列パーティクルフィルタリング手法を提案する。この手法は、不偏な尤度推定器をもたらし、中心極限定理による収束性を示し、標準のパーティクルフィルタと比較して、より短いウォルク・クロック時間で滑らかにした状態推定の分散を低減する。

ABSTRACT

The objective of this article is to study the asymptotic behavior of a new particle filtering approach in the context of hidden Markov models (HMMs). In particular, we develop an algorithm where the latent-state sequence is segmented into multiple shorter portions, with an estimation technique based upon a separate particle filter in each portion. The partitioning facilitates the use of parallel processing. Based upon this approach, we introduce new estimators of the latent states and likelihood which have similar or better variance properties compared to estimators derived from standard particle filters. Moreover due to parallelization there is less wall-clock computational time. We show that the likelihood function estimator is unbiased, prove central limit theorem convergences of estimators, and provide consistent in-sample estimation of the asymptotic variances. The theoretical analyses, supported by a numerical study, show that the segmentation reduces the variances in smoothed latent-state estimators, in addition to the savings in wall-clock time.

研究の動機と目的

• 潜在状態系列の分割を通じて、計算時間を短縮するHMM用の並列パーティクルフィルタリングフレームワークの構築を目的とする。
• 並列処理を可能にしつつ、標準パーティクルフィルタ推定器の分散特性を維持または向上させることを目的とする。
• 不偏性の理論的保証、中心極限定理による収束性などの理論的保証を確立することを目的とする。
• 推定の信頼性を高めるために、漸近分散のインサンプル推定を一貫して行うことを目的とする。
• 粒子MCMCやSMC²などの高度なベイズ推論手法への統合を支援することを目的とする。

提案手法

• 潜在状態系列を重複するかしないかの複数の非重複セグメントに分割し、各セグメントに対して独立したパーティクルフィルタを適用可能にする。
• 各セグメントは、重みの劣化を制御するための重要度サンプリングとリサンプリングを用いた逐次モンテカルロ（SMC）手法により別個に処理される。
• 尤度推定器は、セグメントごとの尤度の積として構築され、提案されたフレームワーク下で不偏性が保証される。
• 尤度推定器および潜在状態推定器の両方について、中心極限定理（CLT）の結果が導出され、粒子数が増加するにつれて漸近的に正規分布に収束することが示される。
• リサンプリングに基づく分散推定器を用いて、インサンプルで漸近分散を一貫して推定し、信頼性の高い推論を可能にする。
• 境界効果の低減とパスの連続性の向上を図るため、重複セグメントを許容し、端の観測値を含める。

実験結果

リサーチクエスチョン

• RQ1 潜在状態系列を短い部分に分割することで、推定器の品質を損なわせることなく、HMMにおけるパーティクルフィルタリングの効率的な並列化が可能か？
• RQ2 提案された並列パーティクルフィルタリング手法は、尤度関数の不偏推定器をもたらすか？
• RQ3 提案されたフレームワーク下で、潜在状態および尤度の推定器は中心極限定理による収束性を満たすか？
• RQ4 推定器の漸近分散をインサンプルで一貫して推定可能か？
• RQ5 分割アプローチにより、標準パーティクルフィルタと比較して、滑らかにした潜在状態推定の分散が低減するか？

主な発見

• 提案された尤度推定器は、保証された不偏性を有しており、信頼性の高いモデル比較やベイズ推論にとって不可欠である。
• 尤度および潜在状態の推定器は、粒子数が増加するにつれて中心極限定理による収束性を満たし、漸近的に正規分布に従うことが保証される。
• 推定器の漸近分散は、インサンプルで一貫して推定可能であり、正確な不確実性の評価を可能にする。
• 数値的実験により、分割アプローチが標準パーティクルフィルタと比較して、滑らかにした潜在状態推定の分散を低減することが確認された。
• 各セグメントに独立したパーティクルフィルタを適用しているにもかかわらず、並列化のおかげでウォルク・クロック時間は著しく短縮され、分散特性は維持または向上した。
• 本手法は、粒子MCMCやSMC²などの高度な推論フレームワークと互換性があり、包括的なベイズ推論パイプラインへのシームレスな統合を可能にする。