[论文解读] AND/OR Multi-Valued Decision Diagrams (AOMDDs) for Weighted Graphical Models

Robert Mateescu, Rina Dechter|arXiv (Cornell University)|Jun 20, 2012

Bayesian Modeling and Causal Inference参考文献 19被引用 4

一句话总结

本文提出了一种用于编译加权图模型（尤其是概率模型）的规范数据结构——AND/OR 多值决策图（AOMDD），通过泛化 AND/OR 搜索空间和有序二叉决策图（OBDD），实现了以树宽为界限的指数级复杂度，而非路径宽。该方法基于变量消除调度和通用 APPLY 算法，实现了高效编译与模型组合，初步实验表明其在可扩展推理方面具有强大潜力。

ABSTRACT

Compiling graphical models has recently been under intense investigation, especially for probabilistic modeling and processing. We present here a novel data structure for compiling weighted graphical models (in particular, probabilistic models), called AND/OR Multi-Valued Decision Diagram (AOMDD). This is a generalization of our previous work on constraint networks, to weighted models. The AOMDD is based on the frameworks of AND/OR search spaces for graphical models, and Ordered Binary Decision Diagrams (OBDD). The AOMDD is a canonical representation of a graphical model, and its size and compilation time are bounded exponentially by the treewidth of the graph, rather than pathwidth as is known for OBDDs. We discuss a Variable Elimination schedule for compilation, and present the general APPLY algorithm that combines two weighted AOMDDs, and also present a search based method for compilation method. The preliminary experimental evaluation is quite encouraging, showing the potential of the AOMDD data structure.

研究动机与目标

• 开发一种可扩展的规范数据结构，用于编译加权图模型，特别是概率模型，以支持高效推理。
• 将 AND/OR 搜索空间和 OBDD 泛化为适用于加权模型的多值决策图框架。
• 将编译复杂度从传统 OBDD 的路径宽界限降低至树宽界限，提升可扩展性。
• 设计基于变量消除的编译调度方案和通用 APPLY 算法，用于组合加权 AOMDD。
• 通过在模型编译与推理上的初步实验结果，评估 AOMDD 的实证潜力。

提出的方法

• AOMDD 通过 AND/OR 搜索空间表示构建，其中内部节点表示变量，边表示取值，终端节点编码权重。
• 该数据结构采用基于变量消除的编译调度构建，按特定顺序处理变量以最小化大小并保持规范性。
• 定义了一种通用 APPLY 算法，用于组合两个加权 AOMDD，通过递归遍历和共享子图重用，支持求和、乘积和边缘化等操作。
• AOMDD 设计为规范结构，确保等价模型生成完全相同的图，从而支持高效的等价性检查与优化。
• 该方法利用图模型的道德化图及其诱导连接树的结构，指导编译过程并最小化最终图的大小。
• 编译通过递归展开 AND 节点和 OR 节点，应用变量消除规则，并合并同构子树以减少冗余。

实验结果

研究问题

• RQ1 多值决策图表示能否被有效扩展以处理加权图模型，特别是概率模型？
• RQ2 在 AOMDD 中使用 AND/OR 搜索空间是否相比传统 OBDD 显著降低了编译复杂度？
• RQ3 APPLY 操作能否被泛化以支持加权 AOMDD 的高效组合与操作，用于推理任务？
• RQ4 AOMDD 的大小与编译时间是否如理论分析所声称的那样，由树宽而非路径宽界定？
• RQ5 在真实或合成图模型上，AOMDD 在可扩展性与推理效率方面的实证表现如何？

主要发现

• AOMDD 表示是规范的，确保等价模型生成完全相同的图，支持高效的等价性检查与优化。
• 编译复杂度由模型道德化图的树宽界定，相比 OBDD（由路径宽界定）有显著改进。
• APPLY 算法通过递归遍历与共享子图重用，实现了两个加权 AOMDD 的高效组合，支持边缘化与条件化等推理操作。
• 基于变量消除的编译调度通过按最小化中间复杂度的顺序处理变量，有效减小了图的大小并提升了效率。
• 初步实验评估表明，AOMDD 能够高效处理中等树宽的模型，显示出在加权图模型中实现可扩展推理的巨大潜力。
• 结果表明，对于树宽较低至中等的模型，AOMDD 在空间与时间效率上优于传统的基于 OBDD 的方法。