[论文解读] A new characterization of probabilities in Bayesian networks

Lenhart K. Schubert|arXiv (Cornell University)|Jul 7, 2004

Bayesian Modeling and Causal Inference参考文献 27被引用 2

一句话总结

本文引入拟概率作为贝叶斯网络的代数框架，将贝叶斯网络建模为噪声 AND-OR-NOT 网络，其中子网络可作为支持或反对节点状态的论据。该方法通过幂等乘积实现拟概率的高效递归计算，包括边缘分布与联合分布，且分布可表示为方波脉冲列，便于直观操作与推理。

ABSTRACT

We characterize probabilities in Bayesian networks in terms of algebraic expressions called quasi-probabilities. These are arrived at by casting Bayesian networks as noisy AND-OR-NOT networks, and viewing the subnetworks that lead to a node as arguments for or against a node. Quasi-probabilities are in a sense the natural algebra of Bayesian networks: we can easily compute the marginal quasi-probability of any node recursively, in a compact form; and we can obtain the joint quasi-probability of any set of nodes by multiplying their marginals (using an idempotent product operator). Quasi-probabilities are easily manipulated to improve the efficiency of probabilistic inference. They also turn out to be representable as square-wave pulse trains, and joint and marginal distributions can be computed by multiplication and complementation of pulse trains.

研究动机与目标

• 开发贝叶斯网络中概率的新型代数表征，以提升推理效率。
• 将贝叶斯网络建模为噪声 AND-OR-NOT 网络，以解释子网络作为支持或反对节点状态的论据。
• 将拟概率定义为一种自然的代数结构，支持通过幂等乘法实现紧凑的边缘计算与联合分布计算。
• 通过操纵表示分布的方波脉冲列，实现高效的概率推理。

提出的方法

• 将贝叶斯网络表示为噪声 AND-OR-NOT 网络，以解释因果与证据子网络作为支持或反对节点状态的论据。
• 将拟概率定义为源自这些网络结构的代数表达式，支持递归的边缘计算。
• 引入幂等乘积算子，通过相乘边缘拟概率来计算联合拟概率。
• 将拟概率表示为方波脉冲列，以实现对分布的可视化与计算操作。
• 通过脉冲列的补集与乘法操作，高效计算边缘与联合分布。
• 建立一个形式化的代数系统，其中拟概率上的运算与概率推理任务相对应。

实验结果

研究问题

• RQ1 如何通过更自然的代数结构重新表达贝叶斯网络中的概率？
• RQ2 能否使用递归的紧凑代数形式高效计算边缘与联合概率？
• RQ3 哪些代数运算能够实现贝叶斯网络中可扩展的推理？
• RQ4 如何利用脉冲列模型表示与操作概率分布？
• RQ5 噪声 AND-OR-NOT 网络的结构能否提供一种有原则的概率推理框架？

主要发现

• 拟概率为贝叶斯网络中边缘概率的计算提供了一种紧凑且递归的方法。
• 通过使用幂等乘积算子相乘边缘拟概率，可获得联合拟概率。
• 拟概率可表示为方波脉冲列，实现直观且高效的操纵。
• 脉冲列表示允许通过乘法与补集操作计算边缘与联合分布。
• 该代数框架通过将复杂的网络计算简化为脉冲列上的基本运算，支持高效的概率推理。
• 该方法为贝叶斯网络提供了自然的代数基础，简化了推理过程并提升了计算效率。