[论文解读] Fast MCMC sampling for Markov jump processes and continuous time Bayesian networks

Vinayak Rao, Yee Whye Teh|arXiv (Cornell University)|Feb 14, 2012

Bayesian Modeling and Causal Inference参考文献 21被引用 29

一句话总结

本文提出了一种用于马尔可夫跳跃过程和连续时间贝叶斯网络中高效马尔可夫链蒙特卡洛（MCMC）采样的快速辅助变量吉布斯采样器。通过利用均匀化方法生成虚拟跳跃时间，并在离散时间点上应用前向-后向采样，该方法在保持对未观测路径推断准确性的同时，相较于现有吉布斯采样器实现了显著的计算加速。

ABSTRACT

Markov jump processes and continuous time Bayesian networks are important classes of continuous time dynamical systems. In this paper, we tackle the problem of inferring unobserved paths in these models by introducing a fast auxiliary variable Gibbs sampler. Our approach is based on the idea of uniformization, and sets up a Markov chain over paths by sampling a finite set of virtual jump times and then running a standard hidden Markov model forward filtering-backward sampling algorithm over states at the set of extant and virtual jump times. We demonstrate significant computational benefits over a state-of-the-art Gibbs sampler on a number of continuous time Bayesian networks.

研究动机与目标

• 解决在连续时间随机模型中采样未观测路径时的计算瓶颈问题。
• 为马尔可夫跳跃过程和连续时间贝叶斯网络开发一种可扩展的MCMC方法。
• 在不牺牲采样精度的前提下降低这些模型中路径推断的计算成本。
• 实现在复杂动态系统中对潜在路径的高效后验推断。

提出的方法

• 该方法利用均匀化将连续时间过程转化为有限组虚拟跳跃时间上的离散时间马尔可夫链。
• 引入表示潜在跳跃时间的辅助变量，在观测事件与虚拟事件之间构建联合状态空间。
• 在包含真实与虚拟跳跃时间的扩展时间网格上应用标准的前向滤波与后向采样算法。
• 通过在当前状态和虚拟跳跃时间条件下迭代重采样路径，利用扩展状态空间中的条件独立性。
• 该方法避免了拒绝采样，并通过精确离散化利用指数等待时间的无记忆特性。
• 该算法被整合进吉布斯采样框架中，在保持细致平衡并收敛至正确后验分布的同时更新路径。

实验结果

研究问题

• RQ1 我们能否在连续时间贝叶斯网络中实现未观测路径的更快MCMC采样？
• RQ2 基于均匀化的辅助变量采样方法在计算效率方面与最先进的吉布斯采样器相比如何？
• RQ3 虚拟跳跃时间对路径推断中混合与收敛速度有何影响？
• RQ4 该方法能否扩展至复杂且高维的连续时间动态系统？

主要发现

• 在多个连续时间贝叶斯网络基准测试中，所提方法相较于最先进的吉布斯采样器实现了显著的计算加速。
• 使用虚拟跳跃时间可实现无拒绝的精确路径采样，从而改善混合与收敛性能。
• 该方法在高跳跃强度和复杂状态转移的模型中表现出良好的可扩展性。
• 实验结果表明，与基线方法相比，该方法具有更快的收敛速度和更低的样本路径自相关性。