[論文レビュー] LMMSE Estimation and Interpolation of Continuous-Time Signals from Discrete-Time Samples Using Factor Graphs

Lukas Bolliger, Hans‐Andrea Loeliger+1 more|arXiv (Cornell University)|Jan 21, 2013

Bayesian Modeling and Causal Inference参考文献 24被引用数 9

ひとこと要約

本稿では、白色ガウス入力を持つ連続時間システムに拡張されたカルマンフィルタリングを用いて、離散時間のノイズあり観測から連続時間信号の線形最小分散誤差（LMMSE）推定を行う要因グラフベースの手法を提案する。ガウス分布のメッセージパッシングを活用することで、バンドリミットの仮定を必要とせず、入力信号、状態、出力信号の高分解能推定が可能となり、カルマンフィルタリングの文献においてこれまで取り上げられていなかった入力信号推定の新しい解決策を提供する。

ABSTRACT

The factor graph approach to discrete-time linear Gaussian state space models is well developed. The paper extends this approach to continuous-time linear systems/filters that are driven by white Gaussian noise. By Gaussian message passing, we then obtain MAP/MMSE/LMMSE estimates of the input signal, or of the state, or of the output signal from noisy observations of the output signal. These estimates may be obtained with arbitrary temporal resolution. The proposed input signal estimation does not seem to have appeared in the prior Kalman filtering literature.

研究の動機と目的

• 線形時不変系における離散時間ノイズあり観測から連続時間信号のLMMSE推定を体系的に行うための手法を開発すること。
• 従来は離散時間カルマンフィルタリングに用いられてきた要因グラフフレームワークを、白色ガウスノイズ駆動の連続時間システムに拡張すること。
• 離散的でノイズのある観測から、入力信号U(t)、状態、出力信号Y(t)の高分解能推定を可能とすること。
• サンプリングジッタ補正や不安定なフィルタを用いたアナログ・デジタル変換などの応用に対する理論的基盤を提供すること。
• カルマンフィルタリングの文献において、連続時間入力信号のLMMSE推定が未解決であったギャップを埋めること。

提案手法

• システムは、白色ガウス入力信号U(t)によって駆動される連続時間線形時不変フィルタとしてモデル化され、出力Y(t)は規則的または不規則な間隔でサンプリングされ、加法的白色ガウスノイズZkで汚染される。
• 要因グラフ表現は連続時間のダイナミクスと離散時間の観測を符号化し、推論にガウス分布のメッセージパッシングを可能にする。
• 時間間隔におけるシステムの進化をモデル化するために、行列指数関数と状態遷移行列（e^{At}）が用いられる。
• システム行列Aの固有値分解を用いて導出された、連続時間リャプノフ方程式の解を用いて、共分散の伝播を実行する。
• LMMSE推定値U(t)は、正則化最小二乗法を用いて計算され、∫u(t)²dtというペナルティ項を含むことで、チホノフ正則化と関連づけられる。
• 時間間隔を離散化し、反復的メッセージパッシングを適用することで、推定における任意の時間分解能が可能となる。

実験結果

リサーチクエスチョン

• RQ1 離散時間ノイズあり観測を持つシステムにおいて、連続時間入力信号のLMMSE推定を要因グラフフレームワーク内でどのように定式化できるか。
• RQ2 入力が白色ガウスノイズであり、システムが線形かつ時不変である場合に、U(t)のLMMSE推定の数学的構造はどのようなものか。
• RQ3 提案手法は、標準的なカルマン＝ブチャフィルタリングがカバーしない連続時間入力信号推定を扱うために、従来のカルマンフィルタリングをどのように拡張するか。
• RQ4 要因グラフアプローチを用いて、ノイズのある出力データからU(t)、Y(t)、およびシステム状態の高分解能推定を導出できるか。
• RQ5 入力信号のパワーσU²と離散時間観測のSNRとの関係は何か。その導出方法は。

主な発見

• U(t)の連続時間入力信号のLMMSE推定値は、バンドリミットの仮定がなくても、要因グラフ上のガウス分布のメッセージパッシングにより明確に定義され、計算可能である。
• 推定誤差の共分散に対する閉形式の式が得られ、行列積分∫₀ᵗ e^{Aτ}bbᵀe^{Aᵀτ}dτから導出される。
• 状態共分散行列の解は、システム行列Aの固有値分解を用いて得られ、固有値と固有ベクトルの形で表現される。
• 定常状態において、離散時間観測のSNRは時間インデックスkに依存しないことが示され、E[Yₖ²]はシステムの伝達関数と入力パワーσU²を用いて表現される。
• 連続時間システムをN個の離散ステップに分解することで、高分解能の信号推定が可能となり、N → ∞の極限で正確な結果に収束することが示された。
• サンプリングジッタ補正や不安定なフィルタを用いたアナログ・デジタル変換といった応用を通じて、本手法の有効性が検証され、理論的拡張を超えた実用的価値を示した。