[论文解读] Multiplicative Factorization of Noisy-Max

Masami Takikawa, Bruce D’Ambrosio|arXiv (Cornell University)|Jan 23, 2013

Bayesian Modeling and Causal Inference参考文献 19被引用 39

一句话总结

本文提出了一种贝叶斯网络中噪声最大模型的乘法分解技术，使在大型复杂网络（如QMR-DT和CPCS）中实现高效精确推理成为可能。通过使用乘法势函数重新表述噪声最大模型，该方法在计算性能上显著优于先前的方法，证明了在以往难以处理的医学诊断网络中实现精确推理的可行性。

ABSTRACT

The noisy-or and its generalization noisy-max have been utilized to reduce the complexity of knowledge acquisition. In this paper, we present a new representation of noisy-max that allows for efficient inference in general Bayesian networks. Empirical studies show that our method is capable of computing queries in well-known large medical networks, QMR-DT and CPCS, for which no previous exact inference method has been shown to perform well.

研究动机与目标

• 解决使用噪声最大模型在大型贝叶斯网络中进行精确推理时的计算不可行性问题。
• 通过提升推理可扩展性，降低医学诊断网络中的知识获取复杂度。
• 在以往方法失败的知名大规模网络（如QMR-DT和CPCS）中实现精确推理。
• 开发一种新的噪声最大模型表示方法，通过乘法分解支持高效的概率推理。

提出的方法

• 提出使用专家产品模型公式对噪声最大条件概率表进行乘法分解。
• 用一种可分解为乘法分量的因子化形式替代标准的噪声最大模型。
• 采用一种变换，使在一般贝叶斯网络中能够高效计算边缘概率和条件概率。
• 利用基于势函数的表示方法，支持可处理的推理算法，包括变量消去法和团树算法。
• 将该分解方法应用于标准贝叶斯网络推理框架，实现在无需近似情况下的精确推理。
• 在基准网络上验证该方法，结果表明其运行时间与可扩展性优于以往的噪声最大实现方法。

实验结果

研究问题

• RQ1 噪声最大模型的乘法分解是否能提升大型贝叶斯网络中的推理效率？
• RQ2 所提出的方法是否能在以往方法失败的大型医学网络（如QMR-DT和CPCS）中实现精确推理？
• RQ3 与标准噪声最大模型相比，乘法分解在计算复杂度和推理速度方面表现如何？
• RQ4 因子化后的噪声最大模型是否能无缝集成到标准精确推理算法中而不损失准确性？

主要发现

• 乘法分解使在QMR-DT网络中实现精确推理成为可能，该网络曾因计算复杂度过高而难以实现高效精确计算。
• 该方法在CPCS网络上实现了显著的性能提升，优于以往的精确推理技术。
• 实证结果表明，因子化后的噪声最大模型可在大型真实世界医学诊断网络中实现可处理的推理。
• 该方法在保持精确推理的同时，相比标准噪声最大模型的表示形式，显著降低了计算复杂度。