[论文解读] Black box variational inference for state space models

Evan Archer, Il Memming Park+3 more|arXiv (Cornell University)|Nov 23, 2015

Gaussian Processes and Bayesian Inference参考文献 24被引用 114

一句话总结

该论文提出了一种针对状态空间模型的黑箱变分推断方法，采用具有块三对角精度矩阵的结构化高斯近似后验，实现了长时序序列上的高效线性时间推断。该方法在准确性和速度上均优于专用方法，能够恢复非线性动态并平滑轨迹，即使在非共轭模型中亦表现良好。

ABSTRACT

Latent variable time-series models are among the most heavily used tools from machine learning and applied statistics. These models have the advantage of learning latent structure both from noisy observations and from the temporal ordering in the data, where it is assumed that meaningful correlation structure exists across time. A few highly-structured models, such as the linear dynamical system with linear-Gaussian observations, have closed-form inference procedures (e.g. the Kalman Filter), but this case is an exception to the general rule that exact posterior inference in more complex generative models is intractable. Consequently, much work in time-series modeling focuses on approximate inference procedures for one particular class of models. Here, we extend recent developments in stochastic variational inference to develop a `black-box' approximate inference technique for latent variable models with latent dynamical structure. We propose a structured Gaussian variational approximate posterior that carries the same intuition as the standard Kalman filter-smoother but, importantly, permits us to use the same inference approach to approximate the posterior of much more general, nonlinear latent variable generative models. We show that our approach recovers accurate estimates in the case of basic models with closed-form posteriors, and more interestingly performs well in comparison to variational approaches that were designed in a bespoke fashion for specific non-conjugate models.

研究动机与目标

• 开发一种可扩展的、通用的隐变量时间序列模型推断方法，适用于精确后验推断不可行的场景。
• 在无需模型特异性推导的前提下，实现在复杂、非线性及非高斯状态空间模型中的高效后验近似。
• 设计一种能捕捉时间依赖性的变分后验，其效果类似于卡尔曼平滑，但可应用于非共轭模型。
• 通过随机梯度变分贝叶斯（SGVB）实现快速收敛与高质量的后验估计。
• 在包括泊松线性动态系统（PLDS）在内的线性和非线性动力系统上，验证该方法的有效性。

提出的方法

• 提出一种具有块三对角精度矩阵的结构化高斯变分后验，以建模隐状态轨迹中的时间依赖性。
• 使用深度神经网络（NN）参数化近似后验的均值和精度矩阵，实现灵活且与观测相关的推断。
• 采用随机梯度变分贝叶斯（SGVB）通过小批量更新联合优化生成模型参数与变分参数。
• 利用块三对角结构实现在时间和空间复杂度上均为线性（O(T)）的推断，可高效扩展至长序列。
• 将识别模型（NN）应用于直接从观测映射到平滑后验分布，模拟非共轭设置下卡尔曼平滑器的行为。
• 使用Theano和Lasagne实现该方法，采用双优化框架，交替更新识别模型与生成模型。

实验结果

研究问题

• RQ1 通用的、黑箱的变分推断方法是否能在非线性与非高斯状态空间模型中实现准确的后验近似？
• RQ2 具有块三对角精度矩阵的结构化高斯后验是否在捕捉时间动态方面优于均值场与无结构近似？
• RQ3 与VBEM等专用变分推断方法相比，该方法在收敛速度与ELBO性能上表现如何？
• RQ4 当真实后验为非高斯时，该方法是否能恢复动力系统中的非线性状态转移？
• RQ5 该推断算法在时间与内存复杂度上是否与序列长度呈线性扩展？

主要发现

• VILDS方法在证据下界（ELBO）上优于均值场与VBDual基线方法，收敛更快且性能更优。
• 在VBEM完成单次EM迭代前，VILDS已达到与PLDS专用VBEM方法相当的ELBO值，表明其具有更优的收敛速度。
• VILDS学习到的后验均值轨迹明显比均值场近似更平滑，表明其更有效地捕捉了时间结构。
• 在一个一维非线性动力系统中，VILDS在后验均值图中成功恢复了连续状态间的真正非线性关系。
• 该方法在时间和空间复杂度上均与序列长度呈线性扩展，实现了对长时序序列的高效推断。
• 通过神经网络参数化的结构化后验，即使在非共轭模型中也能实现精确推断，验证了该方法的黑箱特性。