[論文レビュー] A Variational Formulation of Optimal Nonlinear Estimation

Gregory L. Eyink|ArXiv.org|Nov 21, 2000

Gaussian Processes and Bayesian Inference参考文献 24被引用数 10

ひとこと要約

本稿は、確率的力学系における最適非線形推定のための変分的定式化を導入し、予測、フィルタリング、スムージングのための最も確実な状態軌道を特定する有効作用関数を用いる。この手法は、前方に摂動を加えたFokker-Planck方程式と後方の随伴方程式を解く、グローバルに収束する反復的数値スキームを用いて『スウィープ法』を一般化し、最適推定器の構造的性質を保ちながら有限次元のモーメント閉じ込め近似を可能にする。

ABSTRACT

We propose a variational method to solve all three estimation problems for nonlinear stochastic dynamical systems: prediction, filtering, and smoothing. Our new approach is based upon a proper choice of cost function, termed the {\it effective action}. We show that this functional of time-histories is the unique statistically well-founded cost function to determine most probable histories within empirical ensembles. The ensemble dispersion about the sample mean history can also be obtained from the Hessian of the cost function. We show that the effective action can be calculated by a variational prescription, which generalizes the ``sweep method'' used in optimal linear estimation. An iterative numerical scheme results which converges globally to the variational estimator. This scheme involves integrating forward in time a ``perturbed'' Fokker-Planck equation, very closely related to the Kushner-Stratonovich equation for optimal filtering, and an adjoint equation backward in time, similarly related to the Pardoux-Kushner equation for optimal smoothing. The variational estimator enjoys a somewhat weaker property, which we call ``mean optimality''. However, the variational scheme has the principal advantage---crucial for practical applications---that it admits a wide variety of finite-dimensional moment-closure approximations. The moment approximations are derived reductively from the Euler-Lagrange variational formulation and preserve the good structural properties of the optimal estimator.

研究の動機と目的

• 予測、フィルタリング、スムージングの3つの古典的非線形推定問題を統一的に解くための変分的フレームワークの構築。
• 経験的アンサンブルにおける最も確実な時系列を特定する統計的に妥当なコスト関数（有効作用と呼ぶ）の同定。
• 最適推定器の構造的整合性を保ちながら、実用的な計算を可能にする有限次元のモーメント閉じ込め近似の導入。
• 線形スウィープ法を非線形系へ一般化するため、推定問題の変分的規定の導入。

提案手法

• 有効作用は、時系列の関数として定義され、変分原理から導かれるものであり、最も確実な状態軌道の特定に用いられる。
• 本手法は、前方に摂動を加えたFokker-Planck方程式を時間前方に統合し、後方の随伴方程式を時間後方へ解く反復的数値スキームを採用しており、Kushner-Stratonovich方程式およびPardoux-Kushner方程式に類似している。
• 有効作用のヘッセ行列は、最も確実な履歴の周囲のアンサンブル分散を提供し、不確実性の定量化を可能にする。
• モーメント閉じ込め近似は、変分定式化のオイラー＝ラグランジュ方程式から再帰的に導出され、最適推定器の構造的一致性を保証する。
• スキームは「平均最適性」と呼ばれる、弱いが実用的な性質を満たし、特定の条件下で条件付き平均への収束を保証する。
• 推定問題の変分的規定を通じて、線形スウィープ法を非線形系へ拡張する。

実験結果

リサーチクエスチョン

• RQ1 非線形確率的力学系における最適予測、フィルタリング、スムージングを統一する変分的定式化を構築できるか？
• RQ2 経験的アンサンブルにおける最も確実な状態軌道を特定する、一意で統計的に妥当なコスト関数は何か？
• RQ3 非線形系において、有効作用を効率的かつグローバルに収束する形で計算できるか？
• RQ4 変分定式化から、最適推定器の構造的性質を保つ有限次元のモーメント閉じ込め近似を導出できるか？
• RQ5 変分推定器と条件付き平均との関係は何か？また、既存の最適フィルタと比較してどう異なるか？

主な発見

• 有効作用は、非線形確率過程の経験的アンサンブルにおける最も確実な履歴を決定する、一意で統計的に妥当なコスト関数である。
• 有効作用のヘッセ行列は、最も確実な履歴の周囲のアンサンブル分散を提供し、不確実性の定量化を可能にする。
• 変分定式化に基づく反復的数値スキームは、前方に摂動を加えたFokker-Planck方程式の統合と、後方の随伴方程式の解法を組み合わせることで、グローバルに変分推定器へ収束する。
• オイラー＝ラグランジュ方程式から再帰的に導出される広範なクラスの有限次元モーメント閉じ込め近似が可能であり、最適推定器の構造的性質を保つ。
• 変分推定器は「平均最適性」という弱いが実用的な性質を満たし、適切な条件下で条件付き平均と整合的であることを保証する。
• 本手法は線形スウィープ法を非線形系へ一般化し、最適非線形推定の体系的フレームワークを提供する。