[论文解读] Efficient inference in persistent Dynamic Bayesian Networks

Tomáš Šingliar, Denver Dash|arXiv (Cornell University)|Jun 13, 2012

Bayesian Modeling and Causal Inference参考文献 20被引用 6

一句话总结

本文提出了用于持续性动态贝叶斯网络（DBNs）的精确推理算法，利用时间上的持续性——即状态在被干预前保持不变——实现高效推理。通过将持续性建模为因果链、树结构和森林中的结构化依赖关系，作者在持续性因果链、树和森林模型上实现了相较于近似方法（如Boyen-Koller）高达100倍的渐近与实际速度提升，且在精确平滑处理方面显著优于联合树方法。

ABSTRACT

Numerous temporal inference tasks such as fault monitoring and anomaly detection exhibit a persistence property: for example, if something breaks, it stays broken until an intervention. When modeled as a Dynamic Bayesian Network, persistence adds dependencies between adjacent time slices, often making exact inference over time intractable using standard inference algorithms. However, we show that persistence implies a regular structure that can be exploited for efficient inference. We present three successively more general classes of models: persistent causal chains (PCCs), persistent causal trees (PCTs) and persistent polytrees (PPTs), and the corresponding exact inference algorithms that exploit persistence. We show that analytic asymptotic bounds for our algorithms compare favorably to junction tree inference; and we demonstrate empirically that we can perform exact smoothing on the order of 100 times faster than the approximate Boyen-Koller method on randomly generated instances of persistent tree models. We also show how to handle non-persistent variables and how persistence can be exploited effectively for approximate filtering.

研究动机与目标

• 解决由于持续性特性引入的时间相邻依赖关系导致的持续性DBNs中精确推理的不可行性问题。
• 开发可扩展的推理算法，利用持续性在时间模型中诱导出的规则结构。
• 在持续性DBNs中实现精确平滑与滤波，并在计算复杂度上相对于标准方法具有可证明的优势。
• 将框架扩展至处理非持续性变量，并支持基于持续性感知技术的近似推理。

提出的方法

• 引入三类模型：持续性因果链（PCCs）、持续性因果树（PCTs）和持续性森林（PPTs），以形式化结构化时间依赖中的持续性。
• 设计利用规则性持续结构的精确推理算法，避免标准联合树方法的计算爆炸。
• 推导所提算法的解析渐近复杂度边界，表明其在持续性模型中相比联合树推理具有更优的扩展性。
• 实现精确平滑与滤波过程，通过利用持续性结构保持计算效率。
• 通过修改条件概率表，将非持续性变量整合到框架中，使其与持续性变量共存。
• 在滤波中应用持续性感知的近似方法，保持精度的同时降低计算成本。

实验结果

研究问题

• RQ1 能否正式利用时间模型中的持续性特性，实现在DBNs中高效精确推理？
• RQ2 所提算法在持续性模型中的计算复杂度与标准联合树推理相比如何？
• RQ3 在持续性DBNs中，通过结构化推理可将精确平滑加速多少，相较于近似方法？
• RQ4 如何有效将非持续性变量整合到持续性感知的推理框架中？
• RQ5 能否利用持续性提升DBNs中近似滤波的效率与精度？

主要发现

• 所提PCCs、PCTs和PPTs的精确推理算法在渐近时间复杂度上显著优于在持续性模型上使用联合树推理的方法。
• 实证评估显示，在随机生成的持续性树模型上，精确平滑速度相比Boyen-Koller近似方法最高提升100倍。
• 这些算法在利用持续性带来的结构规律的同时保持精确推理，避免了标准方法的不可行性。
• 通过扩展条件概率表示方式，框架成功将非持续性变量集成进来，且未破坏持续性推理流程。
• 基于持续性感知的近似滤波在效率与精度上均优于标准近似方法，得益于相同的结构规律。
• 解析边界证实，所提算法在模型规模增大时具有有利的扩展性，尤其在持续性时间结构中表现更优。