[论文解读] Sigma-Point Filtering and Smoothing Based Parameter Estimation in Nonlinear Dynamic Systems

Juho Kokkala, Arno Solin+1 more|arXiv (Cornell University)|Apr 23, 2015

Target Tracking and Data Fusion in Sensor Networks参考文献 23被引用 43

一句话总结

本文提出了一种高阶sigma点滤波与平滑方法，用于非线性状态空间模型中的最大似然参数估计。通过比较三阶、五阶、七阶和九阶无迹变换以及高斯-埃尔米特积分法在近似滤波与平滑分布方面的表现，证明了高阶方法在非线性动力学中可提供比扩展卡尔曼滤波或粒子滤波更精确的参数估计结果。

ABSTRACT

We consider approximate maximum likelihood parameter estimation in nonlinear state-space models. We discuss both direct optimization of the likelihood and expectation--maximization (EM). For EM, we also give closed-form expressions for the maximization step in a class of models that are linear in parameters and have additive noise. To obtain approximations to the filtering and smoothing distributions needed in the likelihood-maximization methods, we focus on using Gaussian filtering and smoothing algorithms that employ sigma-points to approximate the required integrals. We discuss different sigma-point schemes based on the third, fifth, seventh, and ninth order unscented transforms and the Gauss--Hermite quadrature rule. We compare the performance of the methods in two simulated experiments: a univariate nonlinear growth model as well as tracking of a maneuvering target. In the experiments, we also compare against approximate likelihood estimates obtained by particle filtering and extended Kalman filtering based methods. The experiments suggest that the higher-order unscented transforms may in some cases provide more accurate estimates

研究动机与目标

• 解决具有加性高斯噪声的非线性动态系统中的最大似然参数估计挑战。
• 将基于EM的估计方法扩展至直接使用sigma点方法进行似然函数优化。
• 评估高阶无迹变换（3阶至9阶）与高斯-埃尔米特积分法在近似滤波与平滑分布方面的性能。
• 为线性参数模型中具有加性噪声的EM算法提供闭式M步更新。
• 在估计精度与似然近似方面，将所提方法与扩展卡尔曼滤波和粒子滤波进行比较。

提出的方法

• 使用基于三阶、五阶、七阶和九阶无迹变换的sigma点滤波器和平滑器，近似非线性状态空间模型中的后验分布。
• 将高斯-埃尔米特积分作为替代的高阶积分方法，用于近似滤波与平滑中的积分。
• 通过使用sigma点滤波与平滑近似边缘似然，实现直接的最大似然估计。
• 对于基于EM的估计，推导出在加性噪声下线性参数模型中的参数闭式最大化步骤。
• 使用预测误差分解方法计算近似对数似然以用于优化。
• 采用敏感性方程与费雪信息恒等式进行似然优化中的梯度计算。

实验结果

研究问题

• RQ1 高阶无迹变换（3阶至9阶）在近似滤波与平滑分布以用于参数估计方面，与低阶方法相比表现如何？
• RQ2 在非线性系统中，高斯-埃尔米特积分法是否能提供比无迹变换更精确的似然近似？
• RQ3 使用sigma点方法的直接最大似然估计在参数估计精度方面，与粒子滤波和扩展卡尔曼滤波相比如何？
• RQ4 在何种条件下，高阶sigma点方法优于低阶方法或基于粒子的替代方案？
• RQ5 能否为具有加性噪声的非线性模型中线性参数的EM算法推导出闭式M步更新？

主要发现

• 在非线性增长模型中，高阶无迹变换（尤其是七阶与九阶）提供的参数估计精度优于低阶方法与扩展卡尔曼滤波。
• 在机动目标跟踪实验中，七阶与九阶无迹变换在参数估计精度方面优于粒子滤波与扩展卡尔曼滤波。
• 高斯-埃尔米特积分法表现出有竞争力的性能，尤其是在平滑非线性情况下，尽管其计算成本高于无迹变换。
• 成功推导出在加性噪声下线性参数模型中EM算法的闭式M步更新，从而实现高效优化。
• 在两个模拟实验中，使用高阶sigma点滤波的直接似然方法在收敛性与估计误差方面均优于粒子滤波。
• 结果表明，高阶sigma点近似可显著改善复杂动力学非线性系统中的似然曲面近似。