[论文解读] Newton-based maximum likelihood estimation in nonlinear state space models

Manon Kok, Johan Dahlin+2 more|arXiv (Cornell University)|Feb 12, 2015

Target Tracking and Data Fusion in Sensor Networks参考文献 18被引用 6

一句话总结

该论文提出一种基于牛顿法的最大似然估计方法，用于非线性状态空间模型，通过结合Fisher恒等式与平滑算法，对对数似然函数、梯度和黑塞矩阵进行近似。比较了基于扩展卡尔曼滤波（EKF）的线性化方法与基于粒子方法的采样方法，结果表明：在复杂模型中，基于采样的方法精度更高；而线性化方法虽然计算更快，但在参数进入非线性动态时可靠性较低。

ABSTRACT

Maximum likelihood (ML) estimation using Newton's method in nonlinear state space models (SSMs) is a challenging problem due to the analytical intractability of the log-likelihood and its gradient and Hessian. We estimate the gradient and Hessian using Fisher's identity in combination with a smoothing algorithm. We explore two approximations of the log-likelihood and of the solution of the smoothing problem. The first is a linearization approximation which is computationally cheap, but the accuracy typically varies between models. The second is a sampling approximation which is asymptotically valid for any SSM but is more computationally costly. We demonstrate our approach for ML parameter estimation on simulated data from two different SSMs with encouraging results.

研究动机与目标

• 解决非线性状态空间模型中对数似然函数及其导数解析不可解时的最大似然参数估计问题。
• 通过Fisher恒等式与平滑算法估计梯度和黑塞矩阵，将牛顿优化方法扩展至非线性状态空间模型。
• 比较两种近似策略：基于线性化（使用EKF）与基于采样（使用粒子滤波/平滑器）的对数似然函数及其导数的估计方法。
• 评估不同模型结构下计算成本与估计精度之间的权衡。
• 在两个具有不同参数依赖关系的非线性状态空间模型的模拟数据上，验证所提方法的有效性。

提出的方法

• 利用Fisher恒等式估计对数似然函数的梯度，该恒等式将得分表示为潜变量后验分布上的期望。
• 类似地，通过Fisher恒等式估计黑塞矩阵，需计算完整数据对数似然函数的二阶矩。
• 平滑分布通过扩展卡尔曼平滑器（线性化方法）或粒子平滑器（采样近似）进行近似。
• 线性化方法使用扩展卡尔曼滤波近似对数似然函数及其导数，采用高斯-牛顿优化进行平滑。
• 采样方法采用粒子滤波与平滑，生成梯度与黑塞矩阵的渐近一致估计。
• 应用牛顿迭代算法，结合估计的梯度与黑塞矩阵，并通过线搜索控制步长。

实验结果

研究问题

• RQ1 尽管似然函数不可解，牛顿法最大似然估计是否仍可有效应用于非线性状态空间模型？
• RQ2 在估计对数似然函数及其导数时，线性化与采样近似方法在精度与计算成本方面如何比较？
• RQ3 模型结构（特别是参数是否出现在非线性部分而非线性部分）是否影响基于线性化的近似方法性能？
• RQ4 与现有的拟牛顿法与无梯度方法相比，所提方法在收敛速度与估计精度方面表现如何？
• RQ5 Fisher恒等式是否可与平滑算法有效结合，以实现在非线性状态空间模型中的高阶优化？

主要发现

• 当参数仅出现在线性观测方程中时，基于线性化的算法（ALG2）实现了最低偏差与均方误差，且计算成本最低。
• 当参数进入非线性状态转移方程（模型2）时，基于线性化的算法（ALG2）因梯度与黑塞矩阵近似不佳，导致偏差与均方误差显著升高。
• 在模型2中，基于采样的方法（NUM）表现最佳，对θ₁的偏差最低（31×10⁻⁴），均方误差最低（23×10⁻⁴），且每轮迭代计算时间最短（0.19秒）。
• 使用EKF估计对数似然函数、有限差分法估计梯度的拟牛顿方法在模型2中表现优于所有其他方法，但仅因参数维度较低且EKF性能良好。
• 线性化方法在计算上高效（模型1每轮0.81秒），但在模型非线性较强或参数位于非线性状态转移中时不可靠。
• 基于粒子平滑器的方法（NUM）提供了渐近一致的估计，证实其在不同模型结构下具有鲁棒性，尽管计算成本较高。