[论文解读] The Extended Kalman Filter is a Natural Gradient Descent in Trajectory Space

Yann Ollivier|arXiv (Cornell University)|Jan 3, 2019

Target Tracking and Data Fusion in Sensor Networks参考文献 33被引用 11

一句话总结

本文证明了扩展卡尔曼滤波器（EKF）在系统轨迹空间中与在线自然梯度下降在数学上等价。通过将每条轨迹视为观测统计模型的参数，使用费舍尔信息矩阵预处理的自然梯度下降——在过程噪声与后验协方差成正比的规范选择下——精确恢复了EKF方程。

ABSTRACT

The extended Kalman filter is perhaps the most standard tool to estimate in real time the state of a dynamical system from noisy measurements of some function of the system, with extensive practical applications (such as position tracking via GPS). While the plain Kalman filter for linear systems is well-understood, the extended Kalman filter relies on linearizations which have been debated. We recover the exact extended Kalman filter equations from first principles in statistical learning: the extended Kalman filter is equal to Amari's online natural gradient, applied in the space of trajectories of the system. Namely, each possible trajectory of the dynamical system defines a probability law over possible observations. In principle this makes it possible to treat the underlying trajectory as the parameter of a statistical model of the observations. Then the parameter can be learned by gradient ascent on the log-likelihood of observations, as they become available. Using Amari's natural gradient from information geometry (a gradient descent preconditioned with the Fisher matrix, which provides parameterization-invariance) exactly recovers the extended Kalman filter. This applies only to a particular choice of process noise in the Kalman filter, namely, taking noise proportional to the posterior covariance - a canonical choice in the absence of specific model information.

研究动机与目标

• 建立扩展卡尔曼滤波器与统计学习中在线自然梯度下降之间深层次的理论联系。
• 通过展示其自然地源于信息几何原理，解决长期存在的关于EKF依赖线性化方法的模糊性。
• 证明当过程噪声与后验协方差成正比时，EKF的行为在参数化下保持不变。
• 通过将轨迹视为模型参数，统一两种主要范式：通过滤波进行状态估计与通过在线学习进行参数估计。
• 基于自然梯度理论，从第一性原理出发，而非启发式线性化，提供EKF的严谨推导。

提出的方法

• 将动力系统的每条可能轨迹视为观测统计模型中的一个参数。
• 将观测建模为在给定轨迹下条件高斯分布，观测噪声协方差为 $ R $。
• 应用在线自然梯度下降，以轨迹参数为变量，最大化对新观测的对数似然。
• 使用阿马里（Amari）的自然梯度，通过使用费舍尔信息矩阵的逆来预处理标准梯度，以实现参数化不变性。
• 推导轨迹空间中的费舍尔信息矩阵，表明其对应于状态的后验协方差。
• 证明在特定选择 $ Q_t \propto P_{t|t-1} $ 下，所得更新规则与扩展卡尔曼滤波器方程完全一致。

实验结果

研究问题

• RQ1 能否从统计学习的第一性原理出发推导出扩展卡尔曼滤波器，而非依赖启发式线性化？
• RQ2 EKF在信息几何和参数空间结构中的几何解释是什么？
• RQ3 尽管依赖线性近似，为何EKF在实践中表现稳健？
• RQ4 在何种条件下，EKF与轨迹空间中的自然梯度下降等价？
• RQ5 过程噪声 $ Q $ 的选择如何影响EKF与自然梯度方法之间的等价性？

主要发现

• 当过程噪声与后验协方差矩阵成正比时，扩展卡尔曼滤波器在轨迹空间中与在线自然梯度下降完全等价。
• 该等价性在离散时间与连续时间下均成立，可推广至扩展卡尔曼–布奇滤波器。
• 自然梯度形式提供了EKF的严谨、参数化不变的推导，解决了其基于线性化的构造中存在的模糊性。
• 规范选择 $ Q \propto P_{t|t-1} $ 确保了基不变性，与自然梯度对重参数化的不变性一致。
• 轨迹空间中的费舍尔信息矩阵是后验协方差的逆，这为自然梯度更新中的预处理提供了理论依据。
• 该结果推广了先前发现：当系统状态为静态（$ f = \text{Id} $）时，卡尔曼滤波器与自然梯度下降等价，现将其扩展至一般非线性动力学。