[论文解读] Asymptotic Properties of Recursive Maximum Likelihood Estimation in Non-Linear State-Space Models

Vladislav B. Tadić, Randal Douc|arXiv (Cornell University)|Jun 25, 2018

Statistical Methods and Bayesian Inference参考文献 32被引用 9

一句话总结

本文针对非线性状态空间模型中的递归最大似然估计算法，通过粒子滤波方法提供了严格的理论分析。通过将随机梯度搜索与最优滤波器导数的粒子近似相结合，作者证明了该估计器以几乎必然收敛于真实对数似然率最大值的邻域，且误差界依赖于粒子数量。

ABSTRACT

Using stochastic gradient search and the optimal filter derivative, it is possible to perform recursive (i.e., online) maximum likelihood estimation in a non-linear state-space model. As the optimal filter and its derivative are analytically intractable for such a model, they need to be approximated numerically. In [Poyiadjis, Doucet and Singh, Biometrika 2018], a recursive maximum likelihood algorithm based on a particle approximation to the optimal filter derivative has been proposed and studied through numerical simulations. Here, this algorithm and its asymptotic behavior are analyzed theoretically. We show that the algorithm accurately estimates maxima to the underlying (average) log-likelihood when the number of particles is sufficiently large. We also derive (relatively) tight bounds on the estimation error. The obtained results hold under (relatively) mild conditions and cover several classes of non-linear state-space models met in practice.

研究动机与目标

• 建立在解析解难以求解的非线性状态空间模型中递归最大似然估计的渐近有效性。
• 分析先前工作中提出的基于粒子的递归MLE算法的收敛性质。
• 推导出递归算法估计误差的定量上界，其表达式以所用粒子数为变量。
• 为在强混合条件下非线性状态空间模型中的递归MLE提供首个严格的理论基础。

提出的方法

• 利用随机梯度搜索，基于顺序观测在线更新参数估计。
• 采用粒子滤波方法，数值近似非线性状态空间模型中难以计算的最优滤波器及其导数。
• 应用基于滤波器导数粒子近似的递归最大似然算法。
• 引入强混合假设，以确保底层过程的遍历性与稳定性。
• 使用类李雅普诺夫论证与矩界控制粒子近似中的误差。
• 通过分析粒子近似得分函数的偏差，推导收敛速率与误差界。

实验结果

研究问题

• RQ1 递归粒子基MLE算法是否收敛于非线性状态空间模型中对数似然率的驻点？
• RQ2 递归MLE的估计误差如何依赖于粒子滤波中使用的粒子数量？
• RQ3 该算法能否实现对真实对数似然率最大值邻域的几乎必然收敛？
• RQ4 递归MLE估计器在何种理论条件下能保持稳定与一致？
• RQ5 递归估计器的渐近性质与非线性模型中的批量MLE相比如何？

主要发现

• 递归粒子MLE算法以几乎必然收敛于底层对数似然率驻点的邻域。
• 围绕真实最大值的邻域半径由一个随粒子数增加而减小的量所上界控制。
• 估计误差被证明上界为与 $ \beta_Q^n $ 成比例的项，其中 $ \beta_Q < 1 $，表明估计偏差呈指数衰减。
• 误差界表达为 $ \tilde{C}_{1,Q}\beta_Q^n(1 + \|\zeta\|) $，其依赖于粒子数与初始参数不确定性。
• 在所推导条件下，对数似然函数的梯度被证明为Lipschitz连续，从而确保优化路径的稳定性。
• 理论结果在强混合条件下建立，此类条件在粒子滤波中为标准假设，可确保状态过程的遍历行为。