[论文解读] Stochastic Variational Inference for Hidden Markov Models

Nicholas J. Foti, Jason Xu+2 more|arXiv (Cornell University)|Nov 6, 2014

Bayesian Methods and Mixture Models参考文献 26被引用 45

一句话总结

该论文提出了一种用于隐马尔可夫模型（HMM）的随机变分推断（SVIHMM），这是一种可扩展的贝叶斯推断方法，通过使用小批量随机优化在长时序数据中学习HMM参数。通过利用马尔可夫链中的记忆衰减特性以及自适应消息传递缓冲机制，SVIHMM有效控制了边界效应误差，并实现了对批量目标函数局部极值的收敛，从而在大规模数据集（如包含2.5亿个观测值的基因组序列）上实现了高效推断，而传统批量方法在此类场景下不可行。

ABSTRACT

Variational inference algorithms have proven successful for Bayesian analysis in large data settings, with recent advances using stochastic variational inference (SVI). However, such methods have largely been studied in independent or exchangeable data settings. We develop an SVI algorithm to learn the parameters of hidden Markov models (HMMs) in a time-dependent data setting. The challenge in applying stochastic optimization in this setting arises from dependencies in the chain, which must be broken to consider minibatches of observations. We propose an algorithm that harnesses the memory decay of the chain to adaptively bound errors arising from edge effects. We demonstrate the effectiveness of our algorithm on synthetic experiments and a large genomics dataset where a batch algorithm is computationally infeasible.

研究动机与目标

• 解决在批量方法计算上不可行的超长时序数据中，将隐马尔可夫模型（HMM）的贝叶斯推断进行扩展的挑战。
• 将随机变分推断（SVI）从独立或可交换数据设置推广至处理具有时间依赖性和马尔可夫依赖结构的数据。
• 缓解因对HMM中的子链进行小批量处理而引入的误差，该处理方式破坏了马尔可夫依赖性，并忽略了子链外部的数据。
• 开发一种方法，在保留无偏梯度估计的同时，通过考虑马尔可夫链中的记忆衰减特性来控制误差传播。
• 在合成数据和包含2.5亿个观测值的大规模基因组数据集上，展示所提方法的可扩展性和准确性。

提出的方法

• 提出一种用于HMM的SVI算法，通过处理子链的小批量数据来适应序列中的时间依赖性。
• 采用近似消息传递方案，并引入growBuf函数，通过在子链边界处引入观测值缓冲区，自适应地控制由边界效应引起的误差。
• 利用马尔可夫链的记忆衰减特性，确保遥远观测值的影响逐渐减弱，从而减少因截断子链而引入的误差。
• 推导出由子链梯度引入的误差的理论界，表明通过调节缓冲区大小和步长可有效控制该误差。
• 采用结构化均值场变分推断，并结合共轭先验（转移矩阵使用狄利克雷先验，高斯观测使用NIW先验），以实现高效的后验近似。
• 使用在子链上计算的随机梯度来更新变分参数，且已证明其收敛至批量目标函数的局部极值。

实验结果

研究问题

• RQ1 尽管小批量处理会破坏HMM中强时间依赖结构的马尔可夫性，随机变分推断是否仍能有效应用于具有强时间依赖性的HMM？
• RQ2 如何以系统化的方式控制由截断子链引起的边界效应误差，以维持推断的准确性？
• RQ3 所提方法在显著降低计算成本的同时，是否能实现与批量变分推断相当的准确性，特别是在长时序数据上？
• RQ4 该算法是否能够扩展至大规模数据集（如包含2.5亿个观测值的基因组序列），而这些数据集使得批量推断在计算上不可行？
• RQ5 马尔可夫链中的记忆衰减特性如何指导HMM随机优化中误差控制机制的设计？

主要发现

• 在合成数据集上，SVIHMM的性能与批量变分推断相当，但运行时间显著减少。
• 该算法收敛至批量目标函数的局部极值，如理论证明所示，确保了优化的稳定性。
• 在包含T=2.5亿个观测值的基因组数据集上，SVIHMM实现了批量方法无法实现的贝叶斯推断。
• 自适应的growBuf缓冲区有效减少了子链截断带来的误差，实证结果表明当ε=1×10⁻⁶时性能提升明显。
• 该方法能有效处理可识别的和复杂的HMM结构，包括对角优势型和反向环路模型，表现出对结构模糊性的强鲁棒性。
• 运行时间对比显示，尽管存在Python的运行时开销且未进行梯度优化，但在T=300万、M=1时，SVIHMM的运行时间仍优于批量VB，主要得益于每次迭代的计算成本更低。