[論文レビュー] Inductive logic programming at 30: a new introduction

Andrew Cropper, Sebastijan Dumančić|arXiv (Cornell University)|Aug 18, 2020

Data Mining Algorithms and Applications被引用数 6

ひとこと要約

本論文は、帰納的論理プログラミング（ILP）の30周年を記念して、形式的論理的基盤、システム比較、現代的応用を踏まえ、分野を再定義する包括的かつ最新の紹介を提供する。論理的規則を用いた記号的機械学習の統合的フレームワークを提唱し、Aleph、TILDE、ASPAL、Metagolといった主要なシステムを強調している。また、生涯学習、ノイズ混在の背景知識、エンド・トゥ・エンドの知覚・記号的学習が、説明可能性や確率的統合の分野における画期的進展の可能性を秘めた、今後の重要な課題であると特定している。

ABSTRACT

Inductive logic programming (ILP) is a form of machine learning. The goal of ILP is to induce a hypothesis (a set of logical rules) that generalises training examples. As ILP turns 30, we provide a new introduction to the field. We introduce the necessary logical notation and the main learning settings; describe the building blocks of an ILP system; compare several systems on several dimensions; describe four systems (Aleph, TILDE, ASPAL, and Metagol); highlight key application areas; and, finally, summarise current limitations and directions for future research.

研究の動機と目的

• 研究者および実務家向けに、現代的でアクセスしやすい帰納的論理プログラミング（ILP）の紹介を提供すること。
• 一階論理、背景知識、および正例／負例を用いたILPの形式的基盤を明確にすること。
• Aleph、TILDE、ASPAL、Metagolといった主要なILPシステムを、学習パラダイムや表現力といった主要な次元において比較すること。
• ILPにおける現在の制限要因、特に生涯学習、ノイズ混在の背景知識、知覚・記号的統合の分析と同定すること。
• 特に説明可能性、確率的推論、および生データからのエンド・トゥ・エンド学習を含む、今後の研究の方向性を示すこと。

提案手法

• 一階論理を用いてILPを論理的推論問題として形式化する：仮説Hは、背景知識Bのもとで正例を論理的に含意し、負例を除外する必要がある。
• 原子（例：happy(alice)）を用いてデータを論理プログラムとして表現し、B、E+、E−をILPタスクのコアな構成要素とする。
• 逆含意表記（head :- body）を用いて規則を表現し、変数の全称的量化は暗黙的であると仮定する。
• 学習パラダイム（例：トップダウン対ボトムアップ）、探索戦略、規則表現の表現力といった観点から、ILPシステムを比較する。
• 背景知識の関連性の概念を導入し、スケーラビリティを高めるために、無関係なBKをフィルタリングするためのニューラルスコア法を提案する。
• 不確実性やノイズ混在のBKを扱うための確率的ILPおよび微分可能アプローチ（例：∂ILP）を提唱し、生涯学習環境における有効性を高める。

実験結果

リサーチクエスチョン

• RQ1 現代の形式的表現と明確さを用いて、ILPを現代の研究者に再導入する方法は何か？
• RQ2 Aleph、TILDE、ASPAL、Metagolといった主要なILPシステム間の主なアーキテクチャ的および手法的差異は何か？
• RQ3 生涯学習の場面において、無関係またはノイズ混在の背景知識を効果的に処理するにはどうすればよいか？
• RQ4 画像やテキストなどの生のセンサーデータから直接記号的プログラムを学習する際の主な課題は何か？
• RQ5 不確実性下での耐性を高めるために、ILPを確率的推論に統合するにはどうすればよいか？

主な発見

• ILPは、正例と負例から一般化する解釈可能な論理的規則として表現される仮説を持つ強力な記号的機械学習のパラダイムのままである。
• Metagol や Aleph といったシステムは、関係的誘導バイアスを必要とするタスクにおいて、特に優れた性能を示している。
• 無関係な背景知識が学習を妨げる「壊滅的記憶」の問題は、依然として主要な課題であり、現在のところ限定的な解決策にとどまっている。
• 背景知識のニューラルスコア化は、関連性フィルタリングの観点から有望であるが、数千の関係を含む大規模なスケールでの実証的検証は不足している。
• 確率的および微分可能な拡張（例：∂ILP）は、不確実性を扱う道筋を提供しているが、未だに十分に検討されておらず、推論のスケーラビリティの問題に直面している。
• 生データ（例：画像）からのエンド・トゥ・エンド学習は、依然として主要な未解決課題であるが、初期の研究では知覚と記号的推論の統合的アプローチの可能性が示されている。