[论文解读] Object-Oriented Bayesian Networks

Daphne Koller, Avi Pfeffer|arXiv (Cornell University)|Feb 6, 2013

Bayesian Modeling and Causal Inference参考文献 14被引用 495

一句话总结

本文提出了面向对象贝叶斯网络（OOBNs），一种通过类、对象、继承和封装等面向对象原则扩展贝叶斯网络的形式化方法，以更模块化和可扩展的方式建模复杂概率领域。它提出了一种将OOBNs解释为随机函数式程序的声明式语义，并设计了一种利用结构重用和封装来提升效率的推理算法，在分层模型中显著减少了计算时间。

ABSTRACT

Bayesian networks provide a modeling language and associated inference algorithm for stochastic domains. They have been successfully applied in a variety of medium-scale applications. However, when faced with a large complex domain, the task of modeling using Bayesian networks begins to resemble the task of programming using logical circuits. In this paper, we describe an object-oriented Bayesian network (OOBN) language, which allows complex domains to be described in terms of inter-related objects. We use a Bayesian network fragment to describe the probabilistic relations between the attributes of an object. These attributes can themselves be objects, providing a natural framework for encoding part-of hierarchies. Classes are used to provide a reusable probabilistic model which can be applied to multiple similar objects. Classes also support inheritance of model fragments from a class to a subclass, allowing the common aspects of related classes to be defined only once. Our language has clear declarative semantics: an OOBN can be interpreted as a stochastic functional program, so that it uniquely specifies a probabilistic model. We provide an inference algorithm for OOBNs, and show that much of the structural information encoded by an OOBN--particularly the encapsulation of variables within an object and the reuse of model fragments in different contexts--can also be used to speed up the inference process.

研究动机与目标

• 解决使用传统贝叶斯网络建模大规模、复杂随机领域时面临的可扩展性与可维护性挑战。
• 通过整合类、对象和继承等面向对象原则，提供一种模块化且可重用的概率建模框架。
• 为OOBNs定义清晰的声明式语义，以唯一确定地指定一个概率模型。
• 开发一种利用结构信息（尤其是封装与代码重用）提升计算效率的推理算法。
• 通过对象组合自然表达“部分-整体”层次结构和领域特定的可重用模型片段。

提出的方法

• 使用贝叶斯网络片段建模对象属性之间的概率关系，实现变量在对象内的封装。
• 使用类定义可重用的概率模型模板，可在多个对象中实例化。
• 支持从父类到子类的模型片段继承，减少冗余并提升一致性。
• 将OOBNs解释为随机函数式程序，为模型解释提供形式化且无歧义的语义。
• 采用一种利用对象边界和继承层次结构优化计算的推理算法，重用中间结果并避免冗余计算。
• 利用封装与模型重用等结构信息，加速推理，超越传统贝叶斯网络技术。

实验结果

研究问题

• RQ1 如何将面向对象原则整合到贝叶斯网络中，以提升复杂领域建模的模块化与可扩展性？
• RQ2 能否为面向对象概率模型定义一种形式化且声明式的语义，以确保对底层概率模型的无歧义解释？
• RQ3 在多大程度上可以利用结构信息（如封装与继承）来提升概率推理的效率？
• RQ4 所提出的OOBN框架如何自然支持“部分-整体”层次结构和可重用的模型组件？
• RQ5 与单体贝叶斯网络相比，在推理过程中利用对象边界与继承可实现多大的性能提升？

主要发现

• OOBN框架通过将模型解释为随机函数式程序，提供了清晰的声明式语义，确保了模型规格的无歧义性。
• 通过利用封装与模型重用等结构信息，OOBN中的推理可显著加速，减少冗余计算。
• 继承机制使得常见概率结构可一次性定义并在多个类中重用，提升了模型的可维护性与一致性。
• 通过允许属性为对象，该框架自然支持“部分-整体”层次结构，实现复杂系统的分层建模。
• 推理算法通过在相似对象间重用计算并利用基于类的模型片段，实现了性能提升，尤其在大规模模型中效果显著。
• 该方法通过支持模块化、分层且可扩展的概率关系指定，显著减轻了复杂领域中的建模负担。