[论文解读] A variational approach to path estimation and parameter inference of hidden diffusion processes
本文提出了一种用于由随机微分方程(SDEs)控制的隐性扩散过程中路径估计与参数推断的变分推理框架。通过将潜在状态的后验分布近似为高斯过程,并利用最优控制方法最小化Kullback-Leibler散度,该方法实现了无需离散化或蒙特卡洛采样的高效平滑与参数估计,在两个示例中均实现了高精度。
We consider a hidden Markov model, where the signal process, given by a diffusion, is only indirectly observed through some noisy measurements. The article develops a variational method for approximating the hidden states of the signal process given the full set of observations. This, in particular, leads to systematic approximations of the smoothing densities of the signal process. The paper then demonstrates how an efficient inference scheme, based on this variational approach to the approximation of the hidden states, can be designed to estimate the unknown parameters of stochastic differential equations. Two examples at the end illustrate the efficacy and the accuracy of the presented method.
研究动机与目标
- 开发一种系统化的变分方法,用于近似隐马尔可夫模型中扩散过程的平滑密度。
- 解决具有非恒定扩散系数的一般SDEs中的推断挑战,突破以往仅限于恒定扩散系数的局限。
- 设计一种高效的未知SDE参数推断方案,利用潜在状态的变分近似。
- 提供一种理论基础坚实的非蒙特卡洛替代方法,用于非线性SDEs中的后验估计,替代现有数值方法。
- 通过最小化真实后验与高斯近似之间的相对熵,实现精确的路径重构与参数估计。
提出的方法
- 该方法将真实后验分布近似为高斯过程,通过最小化Kullback-Leibler散度以确保近似的保真度。
- 通过最优控制公式推导近似SDE的最优参数,将均值与协方差视为控制变量。
- 采用局部高斯近似的凸组合表示完整后验,从而实现矩与导数的可计算性。
- 均值与协方差的动力学由Fokker-Planck方程与变分法推导出的常微分方程组控制。
- 该方法利用Itô公式与条件期望,推导出近似过程一阶与二阶矩的时间演化方程。
- 通过优化变分下界实现参数推断,利用估计路径迭代更新SDE参数。
实验结果
研究问题
- RQ1如何在不依赖粒子滤波或MCMC的情况下,系统地近似隐性扩散过程的平滑密度?
- RQ2基于高斯近似的变分方法能否为具有非恒定扩散系数的SDEs提供精确的路径估计?
- RQ3如何最优地参数化近似SDE,以最小化其与真实后验之间的KL散度?
- RQ4如何使所得推断方案在计算上高效,并可扩展至高维或复杂SDEs?
- RQ5与标准的基于离散化或采样的方法相比,该变分方法在精度与收敛性方面有多大优势?
主要发现
- 该变分方法通过最小化真实后验与高斯近似之间的KL散度,实现了精确的路径估计,避免了离散化或采样需求。
- 该方法成功处理了具有非恒定扩散系数的SDEs,克服了以往变分方法仅限于恒定扩散系数的关键局限。
- 推导出的均值与协方差的ODE系统,通过时间连续优化实现了平滑密度的高效计算。
- 该方法在两个基准示例中表现出高精度,性能与现有成熟推断技术相当。
- 基于变分路径估计的参数推断方案,对未知SDE参数实现了稳定且精确的估计。
- 该框架提供了一种理论基础坚实的非随机替代方法,替代粒子滤波与MCMC,且可通过变分目标实现误差的量化控制。
更好的研究,从现在开始
从阅读论文到最终审阅,大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成,并经人工编辑审核。