[論文レビュー] Kalman Filter, Sensor Fusion, and Constrained Regression: Equivalences and Insights

Maria Jahja, David Farrow+2 more|arXiv (Cornell University)|May 27, 2019

Gaussian Processes and Bayesian Inference参考文献 16被引用数 10

ひとこと要約

本稿では、無限のプロセスノイズを伴うセンサーフュージョンを通じて、カルマンフィルタと制約付き回帰の間の同等性を確立し、動的システムにおけるモデル選択にラッソ正則化などの回帰手法を適用可能にする。主な貢献は、カルマンフィルタを制約付き回帰問題として再定式化することであり、インfluenzaのノウキャスティングなどの応用においてセンサーやプロセスモデルの選択を容易にする。

ABSTRACT

The Kalman filter (KF) is one of the most widely used tools for data assimilation and sequential estimation. In this work, we show that the state estimates from the KF in a standard linear dynamical system setting are equivalent to those given by the KF in a transformed system, with infinite process noise (i.e., a "flat prior") and an augmented measurement space. This reformulation -- which we refer to as augmented measurement sensor fusion (SF) -- is conceptually interesting, because the transformed system here is seemingly static (as there is effectively no process model), but we can still capture the state dynamics inherent to the KF by folding the process model into the measurement space. Further, this reformulation of the KF turns out to be useful in settings in which past states are observed eventually (at some lag). Here, when the measurement noise covariance is estimated by the empirical covariance, we show that the state predictions from SF are equivalent to those from a regression of past states on past measurements, subject to particular linear constraints (reflecting the relationships encoded in the measurement map). This allows us to port standard ideas (say, regularization methods) in regression over to dynamical systems. For example, we can posit multiple candidate process models, fold all of them into the measurement model, transform to the regression perspective, and apply $\ell_1$ penalization to perform process model selection. We give various empirical demonstrations, and focus on an application to nowcasting the weekly incidence of influenza in the US.

研究の動機と目的

• 過去の状態が遅れて観測される場合に、無限のプロセスノイズと拡張測定を伴うセンサーフュージョンフレームワークにおけるカルマンフィルタとその理論的同等性を確立すること。
• 過去の状態が遅れて観測される状況において、カルマンフィルタを制約付き回帰問題として再定式化し、動的システムへの回帰手法の適用を可能にすること。
• ラッソや勾配ブースティングなどの正則化技術を用いて、センサーやプロセスモデルの選択を行う実用的手法を開発すること。
• 提案された再定式化の実用的有効性を、特に米国における週次インフルエンザ発生率のノウキャスティング応用において示すこと。
• カルマンフィルタ、センサーフュージョン、制約付き回帰を統合する統一的フレームワークを提供し、新たな洞察と計算ツールをもたらすこと。

提案手法

• 標準カルマンフィルタを、無限のプロセスノイズ（平坦な事前分布）を伴うセンサーフュージョン問題として再定式化し、動的システムを拡張測定空間における静的推定問題に変換する。
• 測定マップから導かれる線形制約を満たす条件下で、過去の測定値に対する過去の状態の回帰として、同等の制約付き回帰定式化を導出する。
• 候補プロセスモデルの係数を罰則することで、回帰係数にラッソ正則化を適用し、センサーモデル選択とプロセスモデル選択を実現する。
• 勾配ブースティングを用いて、反復的にセンサ関数を学習し、状態推定を更新することで、非凸だが取り扱い可能なフレームワーク内でセンサと状態統合を同時に学習する。
• 測定ノイズ共分散を経験的に推定することで、回帰ベースのカルマンフィルタ近似を可能にする。
• インフルエンザノウキャスティング応用にこのフレームワークを実装し、予測モデルとしてのインフルエンザプロキシをセンサとして用い、制約付き回帰手法で統合する。

実験結果

リサーチクエスチョン

• RQ1 過去の状態が遅れて観測される場合、カルマンフィルタの状態推定値は、制約付き回帰問題として同等に表現可能か？
• RQ2 ラッソのような正則化技術を回帰定式化に適用することで、動的システムにおけるセンサーやプロセスモデルの選択をどのように行えるか？
• RQ3 提案されたセンサーフュージョンと回帰ベースのカルマンフィルタは、実世界のノウキャスティングタスク（例：週次インフルエンザ発生率の予測）においてどの程度の性能を示すか？
• RQ4 勾配ブースティングは、非凸最適化フレームワーク内で、反復的にセンサ関数を学習し、状態推定を改善するために効果的に使用可能か？
• RQ5 無限のプロセスノイズを伴うカルマンフィルタとセンサーフュージョンの同等性は、逐次推定において概念的・計算的利点をどのようにもたらすか？

主な発見

• カルマンフィルタの状態推定値は、無限のプロセスノイズと拡張測定空間を伴うセンサーフュージョンフレームワークの推定値と数学的に同等である。
• 過去の状態が遅れて観測される場合、カルマンフィルタの予測は、測定モデルから導かれる制約を満たす過去の測定値に対する過去の状態の制約付き回帰として同等に表現可能である。
• 回帰定式化にラッソ正則化を適用することで、インフルエンザノウキャスティング応用で示されたように、効果的なセンサーやプロセスモデルの選択が可能である。
• 制約付き回帰定式化により、複数の候補プロセスモデルを測定空間に統合でき、ラッソ罰則によって関連性の高いモデルが選択される。
• 勾配ブースティングを用いた反復的センサ学習と状態推定は、標準的な線形センサーフュージョンを上回る性能を示し、インフルエンザノウキャスティングタスクにおいて優れた予測性能を発揮する。
• 経験的結果から、明示的なセンサーモデル選択がなくても、予測用途において妥当な性能を示し、動的システムにおけるモデル選択と学習のための柔軟な基盤を提供することがわかった。