[论文解读] Derivative-Free Estimation of the Score Vector and Observed Information Matrix with Application to State-Space Models

Arnaud Doucet, Pierre Jacob+1 more|arXiv (Cornell University)|Apr 21, 2013

Target Tracking and Data Fusion in Sensor Networks参考文献 18被引用 17

一句话总结

本文提出了一种基于 Stein's lemma 的无导数估计方法，用于状态空间模型中的得分向量和观测信息矩阵，实现了无需计算导数的最大似然估计。该方法利用人工先验和顺序蒙特卡洛平滑技术，性能与有限差分和同时扰动估计器相当，且在高维情况下表现出更强的鲁棒性以及可扩展的偏差/方差特性。

ABSTRACT

Ionides, King et al. (see e.g. Inference for nonlinear dynamical systems, PNAS 103) have recently introduced an original approach to perform maximum likelihood parameter estimation in state-space models which only requires being able to simulate the latent Markov model according to its prior distribution. Their methodology relies on an approximation of the score vector for general statistical models based upon an artificial posterior distribution and bypasses the calculation of any derivative. We show here that this score estimator can be derived from a simple application of Stein's lemma and how an additional application of this lemma provides an original derivative-free estimator of the observed information matrix. We establish that these estimators exhibit robustness properties compared to finite difference estimators while their bias and variance scale as well as finite difference type estimators, including simultaneous perturbations (see e.g. Spall, IEEE Trans. on Automatic Control 37), with respect to the dimension of the parameter. For state-space models where sequential Monte Carlo computation is required, these estimators can be further improved. In this specific context, we derive original derivative-free estimators of the score vector and observed information matrix which are computed using sequential Monte Carlo approximations of smoothed additive functionals associated with a modified version of the original state-space model.

研究动机与目标

• 解决在似然函数导数难以计算的复杂状态空间模型中，对得分向量和观测信息矩阵进行估计的挑战。
• 开发一种无需显式计算导数的方法，仅依赖于从先验分布中进行的模拟以及顺序蒙特卡洛近似。
• 通过确保对参数维度具有鲁棒性且方差可扩展，改进有限差分和同时扰动估计器。
• 为具有不可解析过渡密度的模型提供一种理论基础坚实且计算上可行的最大似然推断方法。

提出的方法

• 应用 Stein's lemma，通过在感兴趣参数处设置一个人工正态先验，推导出一种无导数的得分向量估计器。
• 通过第二次应用 Stein's lemma，推导出一种新颖的、无导数的观测信息矩阵估计器，其形式为人工参数后验协方差的函数。
• 通过在参数上引入人工随机游走，将估计器适配到状态空间模型中。
• 通过在修改后的模型中对平滑可加函数进行顺序蒙特卡洛近似来计算估计器，使用固定滞后平滑以降低方差。
• 利用滤波器的遗忘特性，为期望和协方差的固定滞后近似提供理论依据，实现偏差与方差之间的平衡。
• 当过渡密度和观测密度不可解析时，使用重采样粒子滤波器实现平滑近似。

实验结果

研究问题

• RQ1 是否可以仅通过从先验分布中进行模拟以及使用贝叶斯平均技术，无需计算导数即可估计得分向量？
• RQ2 是否可以通过对 Stein's lemma 的二阶应用，以无导数方式估计观测信息矩阵？
• RQ3 与有限差分和同时扰动方法相比，所提估计器的偏差和方差如何随参数空间维度的变化而变化？
• RQ4 是否可以利用顺序蒙特卡洛和平滑技术，将估计器适配到似然函数及其导数均不可解析的状态空间模型中？
• RQ5 在顺序蒙特卡洛实现中，使用固定滞后近似时，偏差与方差之间的权衡如何？

主要发现

• 通过 Stein's lemma 推导出的得分向量估计器与 Ionides 等人提出的方法等价，但具有更清晰的理论基础。
• 推导出一种新的无导数观测信息矩阵估计器，其形式为人工参数在人工后验分布下的后验协方差函数。
• 估计器的偏差和方差随参数维度 d 的增长，其变化特性与同时扰动估计器相似。
• 与有限差分和同时扰动估计器相比，该方法在高维设置下表现出更优的鲁棒性。
• 在状态空间模型中，所提估计器通过在修改后模型中对平滑函数进行顺序蒙特卡洛近似实现，固定滞后平滑有效降低了方差。
• 在正则性条件下（如最优滤波器的指数遍历性），可推导出偏差和 Lp 误差的定量界，从而验证了固定滞后近似的合理性。