[論文レビュー] Probabilistic Inductive Logic Programming Based on Answer Set Programming

Matthias Nickles, Alessandra Mileo|arXiv (Cornell University)|May 4, 2014

Logic, Reasoning, and Knowledge参考文献 25被引用数 17

ひとこと要約

本稿は、答え集合プログラミング（ASP）に基づく、初めての確率的帰納的論理プログラミングフレームワークを提案する。このフレームワークは、第一階論理式およびASPルールに対する確率的アノテーションを可能にし、ソフト制約とハード制約に基づく意味論を有する。勾配上昇法と数値微分を用いたパrameter推定をサポートし、不確実性を伴う複雑な関係的ドメインにおいても、正確な推論と学習を実現する。

ABSTRACT

We propose a new formal language for the expressive representation of probabilistic knowledge based on Answer Set Programming (ASP). It allows for the annotation of first-order formulas as well as ASP rules and facts with probabilities and for learning of such weights from data (parameter estimation). Weighted formulas are given a semantics in terms of soft and hard constraints which determine a probability distribution over answer sets. In contrast to related approaches, we approach inference by optionally utilizing so-called streamlining XOR constraints, in order to reduce the number of computed answer sets. Our approach is prototypically implemented. Examples illustrate the introduced concepts and point at issues and topics for future research.

研究の動機と目的

• 関係的ドメインにおける確率的知識表現のための表現力と拡張性に優れたフレームワークの不足に対処すること。
• ソフト制約とハード制約を用いて、第一階論理およびASPルールにおける確率的推論を可能にすること。
• 勾配ベースの最適化を用いて、関係的データから式の重みのパrameter推定を可能にすること。
• XOR制約のオプション的簡略化を用いることで、推論における計算コストを低減すること。
• 構造学習およびパフォーマンス最適化のための今後の研究の基盤を提供すること。

提案手法

• 不確実性を表現するために、第一階論理式およびASPルールに確率をアノテートする。
• ソフト制約とハード制約を用いて意味論を定義し、答え集合の確率分布を定義する。
• 答え集合ソルバを用いて安定モデルを計算し、答え集合の数を削減するためにXOR制約のオプション的簡略化を適用可能とする。
• 数値微分を用いて勾配を近似し、パrameter学習に用いる。最適化にはBarzilai-Borwein法を採用する。
• 観測例の尤度を最大化するため、勾配上昇法を用い、仮説と背景知識を前提にした推論を実行する。
• 推論と重み学習をサポートするプロトタイプを実装し、局所化シナリオにおける実験的評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 関係的構造と不確実性をサポートする論理プログラミングフレームワークにおいて、確率的知識を効果的に表現する方法は何か？
• RQ2 答え集合プログラミングは、式およびルールの重みに対する完全な表現力を有する確率的推論を拡張可能か？
• RQ3 複雑な関係的データを伴う確率的論理プログラムのパrameter推定を、どのように効率的に行えるか？
• RQ4 XOR制約の簡略化は、答え集合の数をどれほど削減し、推論のスケーラビリティを向上させるか？
• RQ5 実際の応用において、勾配ベースの式重み学習はどれほど正確かつ効率的か？

主な発見

• 本フレームワークは、文法的制限なしに、任意の第一階論理式およびASPルールに対する確率的アノテーションをサポートする。
• 100点の屋内局所化例では、サンプリングを用いない状態で約2250 msの推論時間がかかった。これは中程度の問題サイズにおいて実行可能であることを示している。
• 1000点になると、サンプリングを用いることでしか推論が可能にならなかった。これはスケーラブルな技術の必要性を強調している。
• 削除された式（moved(1)）のパrameter学習は、約3170 msでPr(moved(1)) ≈ 0に収束した。これはデータからの有効な学習が可能であることを確認している。
• 閉形式の式が得られない場合でも、小さなh値（例：√ε × wi）を用いた数値微分により、勾配の近似が可能である。
• 本手法は、正例および重みなしの事実からの学習を可能にし、柔軟な例の指定をサポートする。