[论文解读] First-Order Decomposition Trees

Nima Taghipour, Jesse Davis+1 more|arXiv (Cornell University)|Jun 4, 2013

Bayesian Modeling and Causal Inference参考文献 23被引用 9

一句话总结

本文提出了首阶分解树（FO-dtrees），一种新颖的形式化结构，将命题分解树扩展至概率逻辑模型，实现了提升推理的表征与分析。它建立了提升宽度（lifted width）作为考虑对称性的复杂度度量，使得提升推理复杂度的理论分析成为可能，并可直接从树结构推导出提升推理操作。

ABSTRACT

Lifting attempts to speed up probabilistic inference by exploiting symmetries in the model. Exact lifted inference methods, like their propositional counterparts, work by recursively decomposing the model and the problem. In the propositional case, there exist formal structures, such as decomposition trees (dtrees), that represent such a decomposition and allow us to determine the complexity of inference a priori. However, there is currently no equivalent structure nor analogous complexity results for lifted inference. In this paper, we introduce FO-dtrees, which upgrade propositional dtrees to the first-order level. We show how these trees can characterize a lifted inference solution for a probabilistic logical model (in terms of a sequence of lifted operations), and make a theoretical analysis of the complexity of lifted inference in terms of the novel notion of lifted width for the tree.

研究动机与目标

• 为解决概率逻辑模型（PLMs）中提升推理复杂度缺乏形式化结构的问题。
• 将命题分解树（dtrees）扩展至一阶逻辑层面，构建FO-dtrees，以同时捕捉模型分解与提升中利用的对称性。
• 提供一种形式化方法，仅基于结构判断一个FO-dtree是否支持提升推理解。
• 实现从可提升的FO-dtree中提取一系列提升推理操作序列，类似于命题推理中从dtrees中提取操作。
• 定义并利用一种新复杂度度量——提升宽度，用于基于模型结构分析提升推理的计算复杂度。

提出的方法

• 提出FO-dtrees作为命题dtrees的扩展，其中节点表示子模型，边表示分解步骤，同时引入逻辑变量与对称性。
• 定义FO-dtree中节点可提升的条件，基于在共享逻辑变量上使用DPGs（通过参数化实例化进行分解）的有效分解存在性。
• 引入提升宽度作为FO-dtrees的复杂度度量，其计算基于参数化随机变量（PRVs）的取值范围大小及分解节点的结构。
• 设计一种递归算法，通过DPGs对模型进行分解，构建FO-dtrees，支持重命名逻辑变量以实现更优分解。
• 将该算法扩展为贪心变体，基于剪枝集大小或所得提升宽度等质量度量选择DPGs，以提升树的质量。
• 推导出推理复杂度为 O(n_T · log n · exp(w_g) · n_#^(w_#·r_#))，其中 w_g 为提升宽度，n_T 为节点数，n_# 为相关逻辑变量的定义域大小。

实验结果

研究问题

• RQ1 能否为概率逻辑模型中的提升推理定义一种形式化结构，使其与命题分解树相类比？
• RQ2 如何利用FO-dtree的结构判断是否存在提升推理解？
• RQ3 提升推理的计算复杂度是多少？能否通过考虑对称性的度量进行形式化衡量？
• RQ4 如何从FO-dtree系统性地推导出一系列提升推理操作？
• RQ5 能否通过贪心策略增强FO-dtrees的构建过程，以提升推理效率？

主要发现

• FO-dtrees为概率逻辑模型中提升推理解的表示与分析提供了首个形式化框架。
• FO-dtree的提升宽度作为考虑对称性的复杂度度量，使提升推理复杂度的理论分析成为可能。
• 提升推理的复杂度受 O(n_T · log n · exp(w_g) · n_#^(w_#·r_#)) 限制，其中 w_g 为提升宽度，n_T 为节点数，n_# 为逻辑变量的定义域大小。
• 当且仅当在共享逻辑变量上支持有效的 DPG（通过参数化实例化进行分解）时，FO-dtree中的节点才可提升，从而实现对称性利用。
• 所提出的FO-dtrees构建算法确保了任意模型均存在此类树，并可扩展为贪心方法，基于提升宽度或剪枝集大小选择更高质量的分解。
• 该方法可直接从FO-dtree结构推导出一系列提升操作（如消去、聚合、计数转换）序列，类似于命题推理中的操作推导。