[論文レビュー] Loglinear models for first-order probabilistic reasoning

James Cussens|arXiv (Cornell University)|Jan 23, 2013

Bayesian Modeling and Causal Inference参考文献 18被引用数 48

ひとこと要約

本稿は、ラベル付きおよびラベルなし確定節を用いた確率的論理プログラム（SLPs）を用いて、原子論理式の証明に直接確率を定義する、一階確率的推論のための対数線形モデルフレームワークを提案する。このフレームワークは、論理変数と確率的変数の間の一対一対応を保ちつつ、一階論理の保守的拡張を実現し、データから論理的特徴を学習可能な帰納的論理プログラミング（ILP）の応用により、既存の一階確率的モデルに対する原理的で整合性のある代替手法を提供する。

ABSTRACT

Recent work on loglinear models in probabilistic constraint logic programming is applied to first-order probabilistic reasoning. Probabilities are defined directly on the proofs of atomic formulae, and by marginalisation on the atomic formulae themselves. We use Stochastic Logic Programs (SLPs) composed of labelled and unlabelled definite clauses to define the proof probabilities. We have a conservative extension of first-order reasoning, so that, for example, there is a one-one mapping between logical and random variables. We show how, in this framework, Inductive Logic Programming (ILP) can be used to induce the features of a loglinear model from data. We also compare the presented framework with other approaches to first-order probabilistic reasoning.

研究の動機と目的

• 論理的証明構造と対数線形モデルを統合した、一階確率的推論の原理的フレームワークの構築。
• 原子論理式の証明に直接確率を定義し、証明レベルの確率から原子論理式の確率を導出可能にする。
• 論理変数と確率的変数の間の一対一対応を維持することで、一階論理の保守的拡張を実現する。
• 帰納的論理プログラミング（ILP）を用いて、データから対数線形モデルの特徴関数を学習可能にする。
• 提案フレームワークを既存の一階確率的推論手法と比較する。

提案手法

• 証明の確率分布を定義するために、ラベル付きおよびラベルなし確定節から構成される確率的論理プログラム（SLPs）を用いる。
• 証明の確率を、証明構造およびSLP節から導出される特徴関数に基づく対数線形モデルで割り当てる。
• 証明レベルの確率から、原子論理式の確率を導出するための周辺化を適用する。
• 一階論理における論理変数と確率モデルにおける確率的変数の間の一対一対応を維持することで、論理的一致性を保証する。
• 観測データから対数線形モデルの特徴関数を学習するために、帰納的論理プログラミング（ILP）を用いる。
• 提案フレームワークを既存の一階確率的モデルと比較し、表現力および一貫性の面での優位性を示す。

実験結果

リサーチクエスチョン

• RQ1 対数線形モデルを、証明に直接確率を割り当てる一階確率的推論に適応させるにはどうすればよいか？
• RQ2 論理変数と確率的変数の間の一対一対応を維持することは、モデルの一貫性および解釈可能性にどのような影響を与えるか？
• RQ3 帰納的論理プログラミング（ILP）は、一階設定において、対数線形モデルの特徴関数をデータから効果的に学習可能か？
• RQ4 提案フレームワークは、既存の一階確率的モデルと比較して、表現力および推論効率の面でどのように異なるか？
• RQ5 原子論理式に直接確率を定義するのではなく、証明に確率を定義することの理論的および実用的利点は何か？

主な発見

• フレームワークは、論理変数と確率的変数の間の一対一対応を保つことで、一階論理の保守的拡張を実現する。
• 証明構造およびSLP節から導出される特徴関数に基づく対数線形モデルを用いて、証明に確率を定義する。
• 証明の周辺化により、原子論理式の有効な確率が得られ、一階論理と整合的であることが保証される。
• ILPを用いることで、データから対数線形モデルの特徴関数を効果的に学習可能であり、データ駆動型のモデル学習が可能になる。
• 確率を証明構造に根拠づけることで、既存の一階確率的モデルに対する原理的で整合性のある代替手法を提供する。
• フレームワークは、統一的かつ解釈可能なモデル内で、論理的推論と確率的推論の両方をサポートする。