[论文解读] Learning Continuous Time Bayesian Networks

Uri Nodelman, Christian R. Shelton+1 more|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 5被引用 9

一句话总结

本文提出了一种使用共轭先验学习连续时间贝叶斯网络（CTBNs）参数与结构的方法，实现了高效的贝叶斯估计与结构评分。该方法通过允许循环依赖并适应变量特定的时间粒度，简化了结构学习，相较于具有固定时间粒度的动态贝叶斯网络（DBNs），在建模连续时间过程方面表现更优。

ABSTRACT

Continuous time Bayesian networks (CTBNs) describe structured stochastic processes with finitely many states that evolve over continuous time. A CTBN is a directed (possibly cyclic) dependency graph over a set of variables, each of which represents a finite state continuous time Markov process whose transition model is a function of its parents. We address the problem of learning parameters and structure of a CTBN from fully observed data. We define a conjugate prior for CTBNs, and show how it can be used both for Bayesian parameter estimation and as the basis of a Bayesian score for structure learning. Because acyclicity is not a constraint in CTBNs, we can show that the structure learning problem is significantly easier, both in theory and in practice, than structure learning for dynamic Bayesian networks (DBNs). Furthermore, as CTBNs can tailor the parameters and dependency structure to the different time granularities of the evolution of different variables, they can provide a better fit to continuous-time processes than DBNs with a fixed time granularity.

研究动机与目标

• 为CTBNs开发一种共轭先验，以支持贝叶斯参数估计。
• 通过贝叶斯评分方法实现CTBNs中的结构学习。
• 解决DBNs在使用固定时间粒度建模连续时间过程时的局限性。
• 证明由于放宽了无环性约束，CTBNs的结构学习更为简便。
• 表明通过为各变量定制时间粒度，CTBNs能更好地拟合现实世界中的连续时间过程。

提出的方法

• 为CTBNs定义一种共轭先验，以促进闭式贝叶斯参数估计。
• 利用共轭先验推导出用于结构学习的贝叶斯评分，支持模型比较。
• 结构学习过程中不强制要求无环性，从而简化优化过程。
• 该方法支持变量特定的时间粒度，从而更准确地建模以不同速率演化的过程。
• 该方法利用CTBNs的连续时间特性，避免了DBNs中常见的离散化伪影。
• 该框架支持完全观测数据，专注于参数与结构学习，不涉及隐变量。

实验结果

研究问题

• RQ1 如何为CTBNs构建一种共轭先验，以支持高效的贝叶斯参数学习？
• RQ2 能否为CTBNs的结构学习推导出一种贝叶斯评分度量，以考虑连续时间动态？
• RQ3 与DBNs相比，允许CTBNs中存在循环依赖是否能显著简化结构学习问题？
• RQ4 变量特定的时间粒度在多大程度上提升了CTBNs对连续时间过程的拟合效果？
• RQ5 在准确性和计算效率方面，CTBNs的结构学习性能与基于DBN的方法相比如何？

主要发现

• 所提出的共轭先验实现了CTBNs中闭式贝叶斯参数估计，提升了学习效率。
• 基于共轭先验推导出的贝叶斯评分支持有效的结构学习，且无需施加无环性约束。
• 由于无需强制无环性，CTBNs的结构学习显著优于DBNs。
• 通过适配各变量的自然时间粒度，CTBNs相比DBNs实现了更好的模型拟合。
• 该方法在建模连续时间过程方面表现优于固定时间粒度的DBNs，尤其在具有异质性动态的场景中表现更优。
• 该框架能够从完全观测数据中实现精确学习，适用于需要高精度时间建模的应用。