[論文レビュー] Inference in Probabilistic Logic Programs using Weighted CNF's

Daan Fierens, Guy Van den Broeck+3 more|arXiv (Cornell University)|Feb 14, 2012

Bayesian Modeling and Causal Inference参考文献 13被引用数 69

ひとこと要約

本稿では、確率論的論理プログラムを重み付きCNF論理式にコンパイルすることで、最先端の重み付きモデルカウント技術の利用を可能にする、効率的な推論フレームワークを提案する。このアプローチにより、従来の手法と比較してMAP推論および周辺確率計算の性能が顕著に向上する。

ABSTRACT

Probabilistic logic programs are logic programs in which some of the facts are annotated with probabilities. Several classical probabilistic inference tasks (such as MAP and computing marginals) have not yet received a lot of attention for this formalism. The contribution of this paper is that we develop efficient inference algorithms for these tasks. This is based on a conversion of the probabilistic logic program and the query and evidence to a weighted CNF formula. This allows us to reduce the inference tasks to well-studied tasks such as weighted model counting. To solve such tasks, we employ state-of-the-art methods. We consider multiple methods for the conversion of the programs as well as for inference on the weighted CNF. The resulting approach is evaluated experimentally and shown to improve upon the state-of-the-art in probabilistic logic programming.

研究の動機と目的

• 確率論的論理プログラミングにおけるMAP推論や周辺確率計算といった古典的確率論的タスクに対して、効率的な推論アルゴリズムの不足を解消すること。
• 確率論的論理プログラミングと、重み付きモデルカウントのような効率的な知識表現技術の間のギャップを埋めること。
• 確率論的意味論を保持するように、確率論的論理プログラムから重み付きCNF論理式への体系的コンパイルパイプラインを構築すること。
• スケーラビリティと正確性の観点から、提案手法が従来のアプローチを上回ることを評価・実証すること。
• 共通で最適化された表現を通じて、複数の推論タスクを統合的にサポートするフレームワークを提供すること。

提案手法

• 論理的制約を表す節と、確率的依存関係を符号化する重みを持つ重み付きCNF論理式に、確率論的論理プログラムとクエリをコンパイルする。
• 論理プログラムの節を命題論理の節に変換するグランドイング手順を用い、確率的アノテーションを重みとして保持する。
• 周辺確率とMAP推定を効率的に計算するために、最先端の重み付きモデルカウントアルゴリズムを適用する。
• 推論の高速化を図るため、得られる重み付きCNFの構造とサイズを最適化する複数のコンパイル戦略を検討する。
• 知識表現およびAI分野で既に整備されたツールと最適化技術を活用して、効率的なモデルカウントを実現する。
• 重み付きモデルカウントインターフェースを適応させることで、周辺確率推定と最大事後確率（MAP）推論の両方をサポートする。

実験結果

リサーチクエスチョン

• RQ1 確率論的論理プログラムを重み付きCNF論理式にコンパイルすることで、既存のモデルカウント技術を用いた効率的推論が可能になるか？
• RQ2 提案されたコンパイルベースの推論は、確率論的論理プログラミング分野における従来のアプローチと比較して、性能にどの程度優れているか？
• RQ3 サイズを最小限に抑えつつ意味論を保持するように、論理プログラムを重み付きCNFにコンパイルする最も効果的な戦略は何か？
• RQ4 最先端の重み付きモデルカウントツールは、確率論的論理プログラミングにおける複雑な推論タスクをどの程度活用できるか？
• RQ5 提案されたフレームワークは、現実世界の確率論的論理プログラミングワークロードに対しても、効果的にスケーリング可能か？

主な発見

• 提案手法は、既存の確率論的論理プログラミングシステムと比較して、推論性能において顕著な高速化を達成している。
• 重み付きCNFへのコンパイルにより、高度に最適化されたモデルカウンタが利用可能となり、大規模かつ複雑な問題においてスケーラビリティが向上した。
• 統一されたコンパイルパイプラインを通じて、周辺確率計算とMAP推論の両方をサポートするフレームワークが実現された。
• 異なるコンパイル戦略は、さまざまな性能トレードオフを示し、特定のベンチマークではベースライン手法を桁違いに上回る性能を発揮した。
• 実験的評価により、本手法が確率論的論理プログラミング推論分野における最先端技術と同等またはそれを上回ることが確認された。
• 条件付き独立構造を有する多様な問題タイプに対しても、本手法は頑健であることが示された。