[论文解读] Penalized importance sampling for parameter estimation in stochastic differential equations

Libo Sun, Chihoon Lee+1 more|arXiv (Cornell University)|May 19, 2013

Statistical Methods and Inference被引用 1

一句话总结

本文提出了一种惩罚重要性抽样方法，用于在转移密度解析不可用时估计随机微分方程中的参数，尤其适用于部分观测或稀疏观测的情形。该方法在具有挑战性的生态与流行病学场景中提升了估计精度，如慢性 wasting disease（慢性消耗病）建模所示。

ABSTRACT

We consider the problem of estimating parameters of stochastic differential equa-tions with discrete-time observations that are either completely or partially observed. The transition density between two observations is generally unknown. We propose a penalized importance sampling approach to approximate the transition density. Sim-ulation studies in three different models illustrate promising improvements of the new penalized importance sampling method. The new procedure is designed for the chal-lenging case when some state variables are unobserved and moreover, observed states are sparse over time, which commonly arises in ecological studies. We apply this new approach to two epidemics of chronic wasting disease in mule deer.

研究动机与目标

• 解决在转移密度解析不可用时随机微分方程的参数估计问题。
• 在状态变量部分观测或稀疏观测的情境下，提升估计精度。
• 开发一种适用于生态与流行病学应用的稳健方法，尤其在数据有限的情况下。
• 在具有连续时间动态的隐马尔可夫模型下，减少基于似然推断的偏差与方差。

提出的方法

• 该方法采用重要性抽样来近似SDE中离散观测之间的不可用转移密度。
• 引入惩罚项以正则化重要性抽样权重，提升稳定性并降低方差。
• 在优化过程中对得分函数施加惩罚，增强收敛性与鲁棒性。
• 通过蒙特卡洛抽样实现，采用针对观测数据自适应的提议密度。
• 通过使用惩罚权重的重要性抽样，将未观测状态积分出去。
• 利用拟牛顿法优化算法，以最大化惩罚似然。

实验结果

研究问题

• RQ1 惩罚重要性抽样能否在具有未观测状态和稀疏观测的SDE中提升参数估计精度？
• RQ2 与标准重要性抽样相比，惩罚方法在偏差与方差方面表现如何？
• RQ3 该方法在数据有限的真实生态与流行病学模型中的表现如何？
• RQ4 惩罚项的引入是否能增强SDE基于似然推断的收敛性与稳定性？
• RQ5 该方法能否有效应用于现实世界疾病动态，如慢性消耗病流行病？

主要发现

• 与标准重要性抽样相比，惩罚重要性抽样方法在存在未观测状态时显著降低了估计偏差。
• 该方法在稀疏观测情形下表现出更优的收敛性与稳定性。
• 模拟研究显示，该方法在三种不同的SDE模型中均一致提升了参数恢复效果。
• 该方法成功估计了两起真实慢性消耗病流行病的参数，这些案例中数据稀疏且未观测状态普遍存在。
• 惩罚成分有效控制了重要性权重的方差，从而实现了更可靠的推断。
• 在测量稀疏性高且存在隐藏动态的情境下，该方法优于现有方法。