[論文レビュー] Inductive Learning of Answer Set Programs from Noisy Examples

Mark Law, Alessandra Russo+1 more|arXiv (Cornell University)|Aug 25, 2018

Logic, Reasoning, and Knowledge参考文献 22被引用数 19

ひとこと要約

本論文は、不完全なデータを処理できるようにILASP3を拡張した、ノイズ耐性のある回答集合プログラム（ASP）の学習フレームワークであるILP_LOAS^noiseを提案する。20%のノイズを含む例に対しても90%を超える高い正確性を達成し、事前にノイズレベルを知らなくてもコスト関数を最適化することで最適解を保証する点で、他のILPシステムを上回る性能を示した。

ABSTRACT

In recent years, non-monotonic Inductive Logic Programming has received growing interest. Specifically, several new learning frameworks and algorithms have been introduced for learning under the answer set semantics, allowing the learning of common-sense knowledge involving defaults and exceptions, which are essential aspects of human reasoning. In this paper, we present a noise-tolerant generalisation of the learning from answer sets framework. We evaluate our ILASP3 system, both on synthetic and on real datasets, represented in the new framework. In particular, we show that on many of the datasets ILASP3 achieves a higher accuracy than other ILP systems that have previously been applied to the datasets, including a recently proposed differentiable learning framework.

研究の動機と目的

• 認知システムにおける現実世界のノイズを含むデータから、解釈可能で人間が理解可能な知識を学習する課題に対処すること。
• デフォルト、例外、優先順位を含む非単調な知識を学習できる能力を維持しつつ、ILASPフレームワークをノイズのある例に対応するように拡張すること。
• データのノイズレベルに関する事前知識が不要な最適解を保証するシステムを開発すること。
• 合成データおよび現実世界のデータセットに対して、ILASP3の性能をさまざまなノイズ条件の下で評価すること。
• 最適な仮説探索が、非最適化型ILPシステムと比較してより高い正確性を達成することを示すこと。

提案手法

• ノイズのある例を処理できるように、回答集合からの学習（LAS）フレームワークを一般化したILP_LOAS^noiseを提案。コスト関数を組み込んで、カバレッジと仮説の複雑さのバランスをとる。
• 例のカバレッジと仮説長を組み合わせたコスト関数を用い、事前にノイズ閾値を設定せずに最適な仮説の探索をガイドする。
• あらかじめすべての可能な仮説を計算する仮説空間生成戦略を採用し、最適解の網羅的探索を可能にする。
• 合成データ（ハミルトニアン、ジャーニーの好み）および現実世界のデータ（イベント理論、文のチャンク化、好みの学習）を用い、ノイズレベルを制御したデータセットからASPプログラムを学習するためにILASP3を適用する。
• 一部の例が誤ってラベル付けされていても、大多数の例をカバーしつつ複雑さを最小化する能力に基づいて仮説を評価するノイズ耐性学習戦略を導入する。
• 答え集合の意味論を用いて、否定の失敗を含む非単調な知識（デフォルトや例外のモデル化）を表現・学習可能にする。

実験結果

リサーチクエスチョン

• RQ1 ノイズ耐性のあるILPシステムは、最大20%の誤ってラベル付けされた例を含むデータセットから、高精度なASPプログラムを学習できるか？
• RQ2 コスト関数による最適解探索の保証が、ノイズのあるデータにおいて非最適化型ILPシステムと比較して正確性を向上させるか？
• RQ3 ILASP3は、既存のILPシステム、特に微分可能学習フレームワークを含めて、現実世界のデータセットに対してどのように性能を発揮するか？
• RQ4 事前にノイズレベルを推定する必要がなく、デフォルト、例外、優先順位を含む複雑な知識をノイズのある例から学習できるか？
• RQ5 仮説空間のサイズがスケーラビリティに与える影響は何か？今後のシステムはどのように効率性を向上させられるか？

主な発見

• 合成データのハミルトニアンおよびジャーニーの好みデータセットにおいて、20%の例が誤ってラベル付けされていても、ILASP3は90%を超える正確性を達成した。
• イベント理論、文のチャンク化、好みの学習といった現実世界のデータセットにおいて、ILASP3は他のILPシステム、特に最近提案された微分可能学習フレームワークを上回った。
• コスト関数に基づく最適化により、最適解を保証するため、非最適化型ILPシステムよりも一貫して高い正確性を達成した。
• HYPER/Nのような、事前にノイズの割合を入力として必要とするシステムとは異なり、ILASP3はノイズレベルに関する事前知識を必要としない。
• 改善は見られたが、特に大規模または複雑な問題では、開始時に全仮説空間を計算するため、スケーラビリティは依然として制限されている。
• 結果から、コスト関数に基づく最適化が、最適な仮説が未検知データに完全に一般化できない場合でも、より良い一般化と高い正確性をもたらすことが示唆された。