[論文レビュー] Sequential Inference for Latent Force Models

Jouni Hartikainen, Simo Särkkä|arXiv (Cornell University)|Feb 14, 2012

Target Tracking and Data Fusion in Sensor Networks参考文献 7被引用数 15

ひとこと要約

本稿では、ガウス過程の事前分布を線形状態空間モデルに再定式化することで、ラティントフォースモデル（LFMs）の逐次推論フレームワークを提案する。これにより、カルマンフィルタリングおよびスムージングを用いた効率的な推論が可能となる。さらに、スイッチングLFDをスイッチング線形ダイナミカルシステムとしてモデル化することで、都市部の自動車移動から得られるGPS軌道データにおけるスイッチングポイントの推論性能を向上させた。

ABSTRACT

Latent force models (LFMs) are hybrid models combining mechanistic principles with non-parametric components. In this article, we shall show how LFMs can be equivalently formulated and solved using the state variable approach. We shall also show how the Gaussian process prior used in LFMs can be equivalently formulated as a linear statespace model driven by a white noise process and how inference on the resulting model can be efficiently implemented using Kalman filter and smoother. Then we shall show how the recently proposed switching LFM can be reformulated using the state variable approach, and how we can construct a probabilistic model for the switches by formulating a similar switching LFM as a switching linear dynamic system (SLDS). We illustrate the performance of the proposed methodology in simulated scenarios and apply it to inferring the switching points in GPS data collected from car movement data in urban environment.

研究の動機と目的

• 状態空間表現を活用することで、ラティントフォースモデル（LFMs）のための効率的な逐次推論手法を開発すること。
• LFMsにおけるガウス過程事前分布を、白色ノイズ駆動の線形状態空間モデルに再定式化すること。
• カルマンフィルタおよびスムージング技術を用いて、スケーラブルかつ正確な推論を可能にすること。
• スイッチング線形ダイナミカルシステム（SLDS）としてスイッチングダイナミクスをモデル化することで、フレームワークをスイッチングLFDに拡張すること。
• シミュレーテッドデータおよび実世界のGPS軌道データ（都市部の車両移動）を用いて、手法の妥当性を検証すること。

提案手法

• LFMsにおけるガウス過程事前分布を、白色ノイズ駆動の線形状態空間モデルに再定式化し、逐次処理を可能にする。
• 標準的なカルマンフィルタおよびRauch-Tung-Striebelスムージングを用いて、状態空間定式化における効率的推論を実行する。
• スイッチング状態を表す隠れマルコフモデルを用いて、LFMsにおけるスイッチング行動をスイッチング線形ダイナミカルシステム（SLDS）としてモデル化する。
• 変分推論または期待最大化法を用いて、SLDS定式化のパラメータを学習する。
• 状態空間モデルとスイッチングモデルを統合した確率的フレームワークを構築し、逐次学習を実現する。
• 潜在的力学的成分と非パrametricノイズを有する時系列データに、このフレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 ラティントフォースモデルにおけるガウス過程事前分布は、効率的な逐次推論を可能にするために、線形状態空間モデルとして同等に表現可能か？
• RQ2 カルマンフィルタリングおよびスムージングは、LFMsの状態空間定式化においてどのように適用可能か？
• RQ3 スイッチング状態を有するスイッチング線形ダイナミカルシステム（SLDS）を用いて、LFMsにおけるスイッチング行動をモデル化可能か？
• RQ4 本手法は、スイッチングダイナミクスを示す実世界のGPS軌道データに対して、どのような性能を示すか？
• RQ5 ノイズの多いGPS観測から、都市部の車両移動におけるスイッチングポイントをどれほど正確に推論できるか？

主な発見

• LFMsの状態空間定式化により、標準的なカルマンフィルタリングおよびスムージング技術を用いた効率的で逐次的な推論が可能になった。
• カルマンフィルタおよびスムージングは、LFMフレームワークにおける潜在状態およびハイパーパramータの正確な後確率的推定を提供した。
• SLDSとして定式化されたスイッチングLFDモデルは、GPSデータで観測される急激なダイナミクスの変化を効果的に捉えた。
• 本手法は、ノイズの多い環境下でも都市部の車両軌道におけるスイッチングポイントを正確に推論でき、ノイズや複雑な移動パターンに対して頑健であった。
• シミュレーテッドデータおよび実GPSデータに対する実験結果から、本手法は動的状態変化の検出においてベースライン手法を上回ることが示された。
• 本フレームワークはスケーラブルな推論をサポートしており、ハイブリッド力学的モデルと非パrametricモデルを組み合わせたリアルタイム応用に適している。