[論文レビュー] Understanding the Complexity of Lifted Inference and Asymmetric Weighted Model Counting

Eric Gribkoff, Guy Van den Broeck+1 more|arXiv (Cornell University)|May 13, 2014

Bayesian Modeling and Causal Inference参考文献 12被引用数 14

ひとこと要約

この論文は、SRL や PDB の先行手法を一般化する重み付き一階論理モデルカウンティング（WFOMC）のための上昇推論アルゴリズム Lift${}^{\textbf{R}}$ を提案する。非自明な FO CNF 文の断片に対して、文の構造に基づいて WFOMC が PTIME か #P-ハードのどちらかに分類される、新しい二分法定理を確立し、Lift${}^{\textbf{R}}$ は tractable なケースを多項式時間で解き、intractable なケースでは失敗することを示している。

ABSTRACT

In this paper we study lifted inference for the Weighted First-Order Model Counting problem (WFOMC), which counts the assignments that satisfy a given sentence in first-order logic (FOL); it has applications in Statistical Relational Learning (SRL) and Probabilistic Databases (PDB). We present several results. First, we describe a lifted inference algorithm that generalizes prior approaches in SRL and PDB. Second, we provide a novel dichotomy result for a non-trivial fragment of FO CNF sentences, showing that for each sentence the WFOMC problem is either in PTIME or #P-hard in the size of the input domain; we prove that, in the first case our algorithm solves the WFOMC problem in PTIME, and in the second case it fails. Third, we present several properties of the algorithm. Finally, we discuss limitations of lifted inference for symmetric probabilistic databases (where the weights of ground literals depend only on the relation name, and not on the constants of the domain), and prove the impossibility of a dichotomy result for the complexity of probabilistic inference for the entire language FOL.

研究の動機と目的

• 任意の CNF 文を扱える PDB スタイルの非対称 WFOMC に拡張された統一された上昇推論アルゴリズムの開発を目的とし、SRL モデルにおけるソフトまたはハードの証拠を含む上昇推論を可能にする。
• 一階論理の連言標準形（FO CNF）の非自明な断片に対して、WFOMC の複雑さに関する理論的二分法を確立し、各文が PTIME か #P-ハードのどちらかに分類されることを示す。
• Lift${}^\textbf{R}}$ が tractable な WFOMC 問題を多項式時間で正しく特定し、#P-ハードなケースでは失敗することを示し、正確な複雑さの境界を提供する。
• 対称的確率的データベースにおける上昇推論の限界を明確にし、一般 FOL に対する完全な二分法が不可能であることを示す。
• 確率的データベースと統計的関係学習の理論的知見を統合し、非対称 WFOMC を一つのアルゴリズム的・複雑さの枠組みに統一することを目的とする。

提案手法

• 任意の CNF 文（否定を含む）を扱えるように一般化された上昇推論アルゴリズム Lift${}^\textbf{R}}$ を提案し、PDB や SRL の既存手法を拡張する。
• 一階原子における変数の消去と因数分解に基づく再帰的分解戦略を採用し、論理的構造における対称性を活用する。
• 代数幾何学的手法（ヒルベルトのゼロ点定理、商環など）を用いて多項式の代数的独立性を分析し、困難さの結果を導出する。
• 既知の #P-ハード問題を否定を含む WFOMC インスタンスに還元するジグザグ構成を適用し、特定の構造的条件下での困難さを証明する。
• 多項式の同値類を分析し、消去多項式の存在に矛盾を導くために、商環構成 $ R[x]/\langle q \rangle $ を用いる。
• 確率的クエリの望ましくない成分を定数因子 $ c_0 $ として扱うフレームワークを導入し、複雑なクエリをより単純な同等形式に還元可能にする。

実験結果

リサーチクエスチョン

• RQ1 非対称 WFOMC において、現在の MDNF 制限を超えて、任意の CNF 文（否定を含む）を扱える上昇推論アルゴリズムを設計することは可能か？
• RQ2 FO CNF 文の非自明な断片において、WFOMC の複雑さに構造的二分法が存在するか。つまり、各文が PTIME か #P-ハードのどちらかに分類されるか。
• RQ3 提案されたアルゴリズム Lift${}^\textbf{R}}$ は、tractable な WFOMC 問題を多項式時間で解けると正しく分類し、intractable な問題では失敗するか？
• RQ4 全階層論理（FOL）に対して完全な二分法を確立できるか。それとも、対称性の仮定による制限により、不可能であるか？
• RQ5 対称的確率的データベースにおける上昇推論の理論的・実用的限界は何か。なぜ、全 FOL に対して一般の二分法は不可能なのか？

主な発見

• Lift${}^\textbf{R}}$ は、否定を含む任意の CNF 文をサポートすることで、従来の上昇推論技術を一般化し、SRL や PDB における条件付きクエリの上昇推論を可能にする。
• 一階論理の連言標準形（FO CNF）の非自明な断片に対して、新しい二分法定理を証明した。このクラスに属する各文について、WFOMC は文の構造に依存して PTIME か #P-ハードのどちらかに分類される。
• WFOMC が tractable（PTIME）である場合、Lift${}^\textbf{R}}$ は多項式時間でそれを解く。#P-ハードである場合、アルゴリズムは失敗し、正確な分類境界が得られる。
• アルゴリズムの正しさと複雑さ分類は、ヒルベルトのゼロ点定理や商環を用いた代数幾何学的手法に基づき、多項式の独立性を分析することで裏付けられる。
• 本論文では、非対称確率的データベースにおける対称性の欠如により、一般 FOL に対する完全な二分法が不可能であることを証明している。
• ジグザグ構成を用いたハードネス証明により、否定を含む複雑なクエリを定数倍のスケーリングにより同等形式に還元可能であり、フレームワークがそれを可能にする。