[論文レビュー] DeepLogic: Towards End-to-End Differentiable Logical Reasoning

Nuri Cingillioglu, Alessandra Russo|arXiv (Cornell University)|May 18, 2018

Topic Modeling参考文献 40被引用数 6

ひとこと要約

この論文は、RNNベースの反復ネットワークを用いて、記号論理プログラムにおける論理的推論を学習するエンド・ツー・エンド微分可能なニューラルネットワーク、DeepLogicを紹介する。12種類の論理プログラムクラスからなる合成データセットを提案し、モデルがアトム、リテラル、ルールを表現しながらマルチホップ推論を実行できることを示しているが、推論深さの増加と埋め込み空間の制限に伴い性能が低下することが判明した。

ABSTRACT

Combining machine learning with logic-based expert systems in order to get the best of both worlds are becoming increasingly popular. However, to what extent machine learning can already learn to reason over rule-based knowledge is still an open problem. In this paper, we explore how symbolic logic, defined as logic programs at a character level, is learned to be represented in a high-dimensional vector space using RNN-based iterative neural networks to perform reasoning. We create a new dataset that defines 12 classes of logic programs exemplifying increased level of complexity of logical reasoning and train the networks in an end-to-end fashion to learn whether a logic program entails a given query. We analyse how learning the inference algorithm gives rise to representations of atoms, literals and rules within logic programs and evaluate against increasing lengths of predicate and constant symbols as well as increasing steps of multi-hop reasoning.

研究の動機と目的

• ニューラルネットワークが、事前定義された記号的推論エンジンやグランドイングを一切用いずに、記号的論理的推論を完全に学習できるかを調査すること。
• エンド・ツー・エンド微分可能な推論を評価するため、段階的に複雑化する12種類の論理プログラムクラスからなる合成データセットを構築すること。
• RNNベースのネットワークが連続的ベクトル空間において、記号的要素（アトム、リテラル、ルール）をどのように表現しているかを分析すること。
• 述語および定数の記号長やマルチホップ推論ステップの増加に対して、モデルの一般化能力を評価すること。
• 勾配逆伝播による最適化によってルール導出を可能にする、微分可能な近似推論エンジンの実現可能性を検討すること。

提案手法

• モデルは、再帰的ニューラルネットワーク（RNN）を用いて、文字レベルのシーケンスとして論理プログラムを処理し、反復的推論メカニズムを備える。
• 固定されたアーキテクチャと全層で共有された重みを用い、帰納的エンタイルメントクエリに対するバイナリクロスエントロピー損失を用いてエンド・ツー・エンドで学習する。
• ネットワークは、知識ベース上でバックワードチェインをシミュレートするように、隠れ状態を反復的に更新することでマルチホップ推論を実行する。
• 各論理プログラムは、述語や定数レベルではなく、文字レベルでのワンホットエンコーディングが適用される文字列としてエンコードされる。
• モデルは、与えられたクエリが論理プログラムによって含意されるかどうかを予測するように学習され、ラベルは1（含意される）または0（含意されない）である。
• 学習プロセスでは、12のタスククラスを複雑さの増加に従って順序付けたカリキュラム学習が用いられる。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、事前定義された記号的推論ルールやグランドイングなしに、記号論理プログラム上で論理的推論を学習できるか？
• RQ2 埋め込み空間におけるアトム、リテラル、ルールの学習済み表現が、論理的構造と関係をどの程度反映しているか？
• RQ3 モデルは、より長い述語および定数名や、より深いマルチホップ推論チェーンに対し、どの程度一般化できるか？
• RQ4 カリキュラム学習は、より複雑な推論タスクを学習する能力を向上させるか？
• RQ5 モデルの微分可能特性は、将来的な勾配ベースの最適化によるルール導出を可能にするか？

主な発見

• モデルは、同じ論理的結論を導く場合に類似した定数がクラスタリングされるなど、連続的ベクトル空間内にアトム、リテラル、ルールといった記号的要素を効果的に表現することが可能である。
• 推論ステップ数の増加に伴い性能が著しく低下しており、隠れ状態における長期的推論の一貫性を維持する能力に制限があることが示された。
• カリキュラム学習に明確な利点がないことが判明し、Prologのような記号的システムに匹敵する汎用的な推論アルゴリズムを学習していない可能性を示唆している。
• ネットワークは、既存の論理プログラムベンチマークや記号的推論エンジンの置き換えに一般化できないことが判明しており、従来のシステムと比べて競争力に欠けることが示された。
• 完全に微分可能なにもかかわらず、長時間の推論チェーンで方向を失うことがあり、隠れ状態の容量と記憶保持能力の制限が顕在化している。
• 結果から、微分可能な推論は実現可能であるが、記号的エキスパートシステムの代替として実用的になるためには、より強固なアーキテクチャの開発が必要であることが示唆された。