[论文解读] Streaming Variational Monte Carlo

Yuan Zhao, Josue Nassar+3 more|arXiv (Cornell University)|Jun 4, 2019

Gaussian Processes and Bayesian Inference参考文献 57被引用 5

一句话总结

本文提出流式变分蒙特卡洛（SVMC），一种新颖的在线贝叶斯滤波框架，结合变分推断与序贯蒙特卡洛，实现对流式时间序列中潜在状态与非线性动态的灵活、精确且可扩展的联合推断。通过使用稀疏高斯过程建模动态，并利用粒子表示诱导变量后验，SVMC在每步时间具有恒定时间复杂度的同时，实现渐近精确的滤波，并支持任意观测模型。

ABSTRACT

Nonlinear state-space models are powerful tools to describe dynamical structures in complex time series. In a streaming setting where data are processed one sample at a time, simultaneous inference of the state and its nonlinear dynamics has posed significant challenges in practice. We develop a novel online learning framework, leveraging variational inference and sequential Monte Carlo, which enables flexible and accurate Bayesian joint filtering. Our method provides an approximation of the filtering posterior which can be made arbitrarily close to the true filtering distribution for a wide class of dynamics models and observation models. Specifically, the proposed framework can efficiently approximate a posterior over the dynamics using sparse Gaussian processes, allowing for an interpretable model of the latent dynamics. Constant time complexity per sample makes our approach amenable to online learning scenarios and suitable for real-time applications.

研究动机与目标

• 解决流式时间序列中潜在状态与非线性动态联合在线推断的挑战。
• 克服现有方法（如EKF/UKF）依赖强参数假设且需大量超参数调优的局限性。
• 开发一种框架，实现在具有任意观测模型的非线性状态空间模型中，实现准确、可扩展且可解释的贝叶斯推断。
• 在每步时间实现恒定时间复杂度，以适用于在线学习场景中的实时应用。
• 提供一种理论上有根据的滤波后验近似，其收敛于真实后验分布。

提出的方法

• 提出一种流式变分蒙特卡洛框架，利用粒子表示稀疏高斯过程诱导变量的后验，实现对动态参数的精确贝叶斯推断。
• 结合序贯蒙特卡洛与自适应提议分布，通过优化滤波分布对数归一化常数的代理下界实现高效推断。
• 采用变分近似表示滤波后验，证明其在粒子数量增加时以概率几乎处处收敛至真实滤波后验分布。
• 使用自归一化重要性权重将预测分布近似为稀疏高斯过程的混合形式，实现丰富且非高斯的预测不确定性。
• 推导出用于变分目标优化的无偏梯度，支持使用随机梯度方法实现高效在线学习。
• 提出一种新颖的基于粒子的诱导变量后验表示方法，避免标准变分近似，实现闭式更新。

实验结果

研究问题

• RQ1 流式贝叶斯滤波方法能否在具有任意观测似然函数的非线性状态空间模型中实现渐近精确推断？
• RQ2 能否在每步时间保持恒定时间复杂度的同时维持高精度？
• RQ3 在稀疏高斯过程的诱导变量上使用基于粒子的推断，是否能相比标准变分近似提升动态建模的准确性？
• RQ4 所提方法若采用无偏梯度，是否在收敛性与鲁棒性方面优于现有在线滤波技术？
• RQ5 该框架能否在流式设置中支持使用稀疏高斯过程进行可解释的非参数化潜在动态建模？

主要发现

• 所提出的SVMC框架在粒子数量增加时，可证明收敛至真实滤波后验分布，确保渐近一致性。
• 该方法在每步时间实现恒定时间复杂度，适用于实时与在线应用。
• 通过使用粒子表示诱导变量后验，SVMC在贝叶斯推断精度上优于标准变分近似。
• 使用代理目标函数结合无偏梯度，可有效利用随机梯度下降进行优化，提升收敛性与性能。
• 该框架支持任意观测模型，包括非高斯与离散似然函数，而许多现有滤波方法不具备此能力。
• 预测分布被近似为稀疏高斯过程的混合形式，相比平均场近似，能提供更丰富且更精确的不确定性估计。