[论文解读] Understanding the Complexity of Lifted Inference and Asymmetric Weighted Model Counting

Eric Gribkoff, Guy Van den Broeck+1 more|arXiv (Cornell University)|May 13, 2014

Bayesian Modeling and Causal Inference参考文献 12被引用 14

一句话总结

本文提出了 Lift${}^{\textbf{R}}$，一种用于加权一阶模型计数（WFOMC）的提升推理算法，该算法推广了SRL和PDB领域中先前的方法。它为一阶逻辑合取范式（FO CNF）句子的一个非平凡片段建立了新的二分定理，证明WFOMC的复杂度要么在PTIME中，要么为#P-难，具体取决于句子结构；Lift${}^{\textbf{R}}$在多项式时间内求解可 tractable 的情况，而在不可tractable 的情况下失败。

ABSTRACT

In this paper we study lifted inference for the Weighted First-Order Model Counting problem (WFOMC), which counts the assignments that satisfy a given sentence in first-order logic (FOL); it has applications in Statistical Relational Learning (SRL) and Probabilistic Databases (PDB). We present several results. First, we describe a lifted inference algorithm that generalizes prior approaches in SRL and PDB. Second, we provide a novel dichotomy result for a non-trivial fragment of FO CNF sentences, showing that for each sentence the WFOMC problem is either in PTIME or #P-hard in the size of the input domain; we prove that, in the first case our algorithm solves the WFOMC problem in PTIME, and in the second case it fails. Third, we present several properties of the algorithm. Finally, we discuss limitations of lifted inference for symmetric probabilistic databases (where the weights of ground literals depend only on the relation name, and not on the constants of the domain), and prove the impossibility of a dichotomy result for the complexity of probabilistic inference for the entire language FOL.

研究动机与目标

• 开发一种统一的提升推理算法，将PDB风格的非对称WFOMC扩展至处理任意CNF句子，从而实现SRL模型中带有软证据或硬证据的提升推理。
• 为一阶逻辑合取范式（FO CNF）的一个非平凡片段建立理论二分定理，将WFOMC分类为可 tractable（PTIME）或不可 tractable（#P-难）。
• 证明Lift${}^\textbf{R}}$能通过多项式时间计算正确识别可 tractable 情况，并在#P-难情况下失败，从而提供精确的复杂度边界。
• 阐明对称概率数据库中提升推理的局限性，并证明对一般一阶逻辑（FOL）无法实现完整的二分定理。
• 通过将非对称WFOMC统一于单一算法与复杂度框架下，弥合概率数据库与统计关系学习之间的理论洞见。

提出的方法

• 提出 Lift${}^\textbf{R}}$，一种推广现有PDB与SRL技术的提升推理算法，支持包含否定的任意CNF句子。
• 采用基于变量消去与一阶原子因子分解的递归分解策略，利用逻辑结构中的对称性。
• 应用代数几何工具，包括希尔伯特零点定理（Hilbert’s Nullstellensatz）与商环，分析多项式的代数独立性并推导出复杂度下界。
• 使用锯齿构造（zigzag construction）将已知的#P-难问题归约至含否定的WFOMC实例，证明在特定结构条件下为#P-难。
• 采用商环构造 $ R[x]/\langle q \rangle $ 分析多项式等价类，并推导出消去多项式存在性的矛盾。
• 提出一种框架，将概率查询中不想要的组成部分视为常数因子 $ c_0 $，从而将复杂查询简化为等价的简化形式。

实验结果

研究问题

• RQ1 能否设计一种提升推理算法，以处理非MDNF限制下任意CNF句子的非对称WFOMC，包括含否定的句子？
• RQ2 对于一阶逻辑合取范式（FO CNF）的一个非平凡片段，是否存在WFOMC复杂度的结构性二分定理，使得每个句子要么属于PTIME，要么属于#P-难？
• RQ3 所提出的算法 Lift${}^\textbf{R}}$ 是否能正确分类可 tractable 的WFOMC问题为多项式时间可解，而不可 tractable 问题为失败？
• RQ4 能否为整个一阶逻辑语言建立完整的二分定理，还是由于对称性假设的存在而存在固有局限？
• RQ5 对称概率数据库中提升推理的理论与实际局限性是什么？为何对完整FOL无法实现一般性二分定理？

主要发现

• Lift${}^\textbf{R}}$ 通过支持含否定的任意CNF句子，推广了先前的提升推理技术，使SRL与PDB中条件查询的提升推理成为可能。
• 为FO CNF的一个非平凡片段证明了新的二分定理：对于该类中的每个句子，WFOMC要么属于PTIME，要么属于#P-难，其结果仅取决于句子的结构。
• 当WFOMC可 tractable（PTIME）时，Lift${}^\textbf{R}}$ 以多项式时间求解；当为#P-难时，算法失败，从而提供了精确的分类边界。
• 该算法的正确性与复杂度分类基于代数几何，利用希尔伯特零点定理与商环等工具分析多项式的独立性。
• 本文证明，由于非对称概率数据库中缺乏对称性，对一般FOL实现完整二分定理是不可能的，从而限制了此类结果的适用范围。
• 该框架通过常数因子缩放将含否定的复杂查询简化为等价形式，使锯齿构造可用于硬度证明。