[论文解读] Black-box Variational Inference for Stochastic Differential Equations

Thomas Ryder, Andrew Golightly+2 more|arXiv (Cornell University)|Feb 9, 2018

Gaussian Processes and Bayesian Inference参考文献 39被引用 26

一句话总结

本文提出了一种用于随机微分方程（SDEs）的黑箱变分推断方法，通过使用循环神经网络（RNN）联合推断未知参数和潜在扩散路径，近似条件于参数的扩散路径后验分布。该方法在标准硬件上仅需数小时即可实现高精度的参数估计，速度优于MCMC，同时与真实后验路径保持高度一致。

ABSTRACT

Parameter inference for stochastic differential equations is challenging due to the presence of a latent diffusion process. Working with an Euler-Maruyama discretisation for the diffusion, we use variational inference to jointly learn the parameters and the diffusion paths. We use a standard mean-field variational approximation of the parameter posterior, and introduce a recurrent neural network to approximate the posterior for the diffusion paths conditional on the parameters. This neural network learns how to provide Gaussian state transitions which bridge between observations in a very similar way to the conditioned diffusion process. The resulting black-box inference method can be applied to any SDE system with light tuning requirements. We illustrate the method on a Lotka-Volterra system and an epidemic model, producing accurate parameter estimates in a few hours.

研究动机与目标

• 为解决SDE中因潜在过程导致的高维、不可计算的参数与潜在扩散路径联合推断挑战。
• 开发一种灵活、可扩展的推断方法，适用于广泛的SDE系统，无需针对具体问题进行设计。
• 相比现有的MCMC和桥接蒙特卡罗方法，降低计算成本与调参复杂度。
• 通过使用RNN建模观测之间的复杂结构依赖关系，改进对潜在路径的均值场或高斯近似。
• 在系统生物学和流行病学等实际应用中，实现SDE的实用化、快速推断。

提出的方法

• 使用Euler-Maruyama离散化方法，将连续SDE近似为时间网格上的高斯转移序列。
• 应用均值场变分推断，对SDE参数的后验分布进行近似，将参数视为具有独立先验的随机变量。
• 引入循环神经网络（RNN）以建模在给定参数条件下潜在扩散路径的后验分布，学习生成模仿真实条件过程的状态转移。
• 采用随机优化训练变分近似，实现端到端学习，无需依赖变分计算。
• 将基于RNN的近似视为一种归一化流，将标准正态样本转换为与观测数据和参数一致的路径样本。
• 使用50万次迭代的重要性采样评估并验证变分后验的质量，尤其适用于模型比较。

实验结果

研究问题

• RQ1 能否设计一种黑箱变分推断框架，在极少调参的情况下联合推断SDE中的参数与潜在路径？
• RQ2 基于RNN的变分近似在稀疏观测的SDE中，能否有效捕捉潜在扩散路径的复杂依赖结构？
• RQ3 与MCMC和基于桥接的蒙特卡罗方法相比，该方法在计算效率与近似精度之间有何权衡？
• RQ4 该方法能否在合成数据中恢复已知参数值，并在真实流行病数据中高保真度地复现已发表结果？
• RQ5 在边际后验估计与路径采样方面，该方法的变分近似质量与MCMC相比如何？

主要发现

• 对于洛特卡-沃尔泰拉模型和SIR流行病模型，该方法在台式机上均能在3.5小时内完成高精度参数估计，显著快于需数天的MCMC方法。
• 对于时不变SIR模型，尽管有效样本量较低（ESS = 718.2），变分推断的边际后验估计仍与重要性采样和先前MCMC研究结果高度一致。
• 对于时变SIR模型，该方法估计的方差更小（σ²），且扩散路径更具灵活性，能更好捕捉数据波动，特别是在t=7–9期间，表明数据拟合更优。
• 基于RNN的后验近似生成的50条合理扩散路径在视觉上与真实数据趋势一致，表明该方法能有效捕捉潜在过程中的复杂时间依赖性。
• 尽管参数后验分布略有过度集中（这是变分方法的常见局限），但条件扩散路径的变分近似仍接近真实后验。
• 通过重要性采样证据进行的模型比较表明，时变模型对数据的拟合更优，尽管复杂度增加可能导致过拟合，凸显了在模型选择中更优后验估计的必要性。