[论文解读] Hypoelliptic diffusions: discretization, filtering and inference from complete and partial observations

Susanne Ditlevsen, Adeline Samson|arXiv (Cornell University)|Jul 13, 2017

Complex Systems and Time Series Analysis参考文献 37被引用 7

一句话总结

该论文提出了一种针对部分观测下非椭圆扩散过程的高阶离散化方案，用于参数估计。这类过程的特点是退化噪声作用于不同时间尺度。通过将该近似嵌入到随机逼近期望最大化（SAEM）算法中，即使在部分观测下，该方法也能实现一致且渐近正态的推断，优于标准欧拉方案和对比估计器，在谐振子、FitzHugh-Nagumo以及突触抑制/兴奋模型等模拟模型中表现更优。

ABSTRACT

The statistical problem of parameter estimation in partially observed hypoelliptic diffusion processes is naturally occurring in many applications. However, due to the noise structure, where the noise components of the different coordinates of the multi-dimensional process operate on different time scales, standard inference tools are ill conditioned. In this paper, we propose to use a higher order scheme to approximate the likelihood, such that the different time scales are appropriately accounted for. We show consistency and asymptotic normality with non-typical convergence rates. When only partial observations are available, we embed the approximation into a filtering algorithm for the unobserved coordinates, and use this as a building block in a Stochastic Approximation Expectation Maximization algorithm. We illustrate on simulated data from three models; the Harmonic Oscillator, the FitzHugh-Nagumo model used to model the membrane potential evolution in neuroscience, and the Synaptic Inhibition and Excitation model used for determination of neuronal synaptic input.

研究动机与目标

• 解决由于退化噪声作用于不同时间尺度，导致标准推断工具在非椭圆扩散模型中出现病态的问题。
• 开发一种高阶离散化方案，以更准确地考虑似然近似中的多尺度动力学。
• 实现在完整观测和部分观测下可靠的参数估计，尤其在仅部分变量可观测的现实场景中。
• 将高阶近似整合到随机逼近期望最大化（SAEM）算法中，以实现在部分观测下的高效推断。
• 在三个具有生物学和物理意义的模型上验证该方法：谐振子模型、FitzHugh-Nagumo模型以及突触抑制/兴奋模型。

提出的方法

• 开发了一种高阶数值方案，用于近似非椭圆SDE的转移密度，相比欧拉-丸山方案更准确地捕捉噪声分量的不同时间尺度。
• 将似然近似嵌入到滤波框架中，以在仅有部分观测时估计未观测到的分量。
• 采用随机逼近期望最大化（SAEM）算法进行最大似然推断，结合粒子滤波（SMC）进行状态估计。
• 该方法利用了非椭圆SDE的结构特征：噪声仅作用于速度或输入分量，而位置或膜电位则以确定方式演化。
• 对于噪声或漂移中存在未知参数的模型，SAEM算法通过随机逼近和蒙特卡洛采样迭代改进估计。
• 在三种模型的模拟数据上验证了该方法，与基于欧拉的对比估计器和标准滤波方法进行性能比较。

实验结果

研究问题

• RQ1 高阶离散化方案是否能改善具有退化噪声和多尺度动力学的非椭圆扩散过程中似然近似的性能？
• RQ2 在仅有部分观测的情况下，与现有基于对比或欧拉的方法相比，所提方法在参数估计中的表现如何？
• RQ3 结合粒子滤波的SAEM算法是否能在具有未知参数的非椭圆模型中实现一致且渐近正态的推断？
• RQ4 在非椭圆结构下，估计量的收敛速率如何？与标准椭圆情形有何不同？
• RQ5 该方法能否从部分观测中可靠估计神经元模型中的参数，如突触传导率和噪声强度？

主要发现

• 在完整观测设置下，所提出的高阶对比估计器优于基于欧拉的对比估计器，偏差和方差更低，尤其在谐振子模型中的γ和α参数上表现更优。
• 在部分观测设置下，结合粒子滤波的SAEM算法可实现一致估计，γ的均值估计为1.523（标准差0.130），α为0.822（标准差0.110），接近真实值1.5和0.8。
• 当ε被估计时，SAEM方法得到的均值估计为0.105（标准差0.006），证明其在其他方法失效时仍能处理未知噪声参数。
• 在突触抑制/兴奋模型中，SAEM算法估计的τ_E为0.486（标准差0.031），τ_I为0.990（标准差0.180），抑制参数的不确定性更高（如g_I为8.414，标准差0.250）。
• 该方法实现了渐近正态性，且收敛速率非典型，证实了在非椭圆结构下的理论一致性。
• SAEM算法是唯一能在噪声强度ε未知时实现其估计的方法，凸显其在复杂、部分观测系统中的鲁棒性。