[論文レビュー] Towards Learning Instantiated Logical Rules from Knowledge Graphs

Yulong Gu, Yu Guan+1 more|arXiv (Cornell University)|Mar 13, 2020

Advanced Graph Neural Networks参考文献 32被引用数 8

ひとこと要約

本稿では、2段階のプロセス（まず経路を非巡回の抽象的テンプレートに一般化し、次にそれらをインスタンス化された規則に特化）を用いて、知識グラフから効率的にインスタンス化された一階論理規則を抽出する確率的ルール学習手法GPFLを提案する。構造的に類似した規則間でグランドイングを共有し、検証を用いて過学習を抑えることで、最先端の手法と比較して評価時間を著しく短縮し、より高品質な規則を発見し、知識グラフ補完性能を向上させる。

ABSTRACT

Efficiently inducing high-level interpretable regularities from knowledge graphs (KGs) is an essential yet challenging task that benefits many downstream applications. In this work, we present GPFL, a probabilistic rule learner optimized to mine instantiated first-order logic rules from KGs. Instantiated rules contain constants extracted from KGs. Compared to abstract rules that contain no constants, instantiated rules are capable of explaining and expressing concepts in more details. GPFL utilizes a novel two-stage rule generation mechanism that first generalizes extracted paths into templates that are acyclic abstract rules until a certain degree of template saturation is achieved, then specializes the generated templates into instantiated rules. Unlike existing works that ground every mined instantiated rule for evaluation, GPFL shares groundings between structurally similar rules for collective evaluation. Moreover, we reveal the presence of overfitting rules, their impact on the predictive performance, and the effectiveness of a simple validation method filtering out overfitting rules. Through extensive experiments on public benchmark datasets, we show that GPFL 1.) significantly reduces the runtime on evaluating instantiated rules; 2.) discovers much more quality instantiated rules than existing works; 3.) improves the predictive performance of learned rules by removing overfitting rules via validation; 4.) is competitive on knowledge graph completion task compared to state-of-the-art baselines.

研究の動機と目的

• 知識グラフから高品質なインスタンス化された論理規則を効率的に抽出する課題に取り組むこと。これはより表現力があるが、規則空間が著しく大きくなるためである。
• 構造的に類似した規則間でグランドイングを共有することで、インスタンス化された規則の評価にかかる計算コストを低減すること。
• 予測性能を低下させる過学習規則の特定とその影響の軽減を図ること。
• 効果的な規則フィルタリングと構成チューニングを通じて、知識グラフ補完タスクにおけるルールラーナーの予測性能を向上させること。
• テンプレートベースの規則生成と集合的評価が、大規模知識グラフからのスケーラブルで効果的な規則抽出を可能にすることを示すこと。

提案手法

• GPFLは2段階の規則生成メカニズムを採用する：まず経路を抽出・一般化して非巡回の抽象的規則（テンプレート）にし、次にそれらを定数を含むインスタンス化された規則に特化する。
• 構造的に類似した複数の規則が同じグランドイングを共有する、新たなグランドイング共有戦略を採用し、評価時間を著しく短縮する。
• ホールドアウトセット上で規則の品質を評価する検証手法を適用し、過学習規則をフィルタリングすることで一般化性能を向上させる。
• 知識グラフ補完における予測順位を向上させるために、最大集約（maximum aggregation）を用い、複数の規則からの信頼度スコアを統合する。
• 柔軟な規則構成設定（例：insA-carB）をサポートし、最適なパフォーマンスを得るための規則長やタイプのチューニングを可能にする。
• 滑らかな信頼度（smooth confidence）を用いて規則の品質を評価する。これは標準的な信頼度やPCAよりも過学習を低減する上でより効果的であることが示されている。

実験結果

リサーチクエスチョン

• RQ1 知識グラフからインスタンス化された論理規則を生成・評価する際、計算コストが著しく増大することなく、効率的に行う方法は何か？
• RQ2 過学習規則がインスタンス化された規則ラーナーの予測性能に与える影響は何か？ また、その影響をどのように軽減できるか？
• RQ3 テンプレートベースの規則生成とグランドイング共有は、インスタンス化された規則の評価に要する時間を顕著に短縮できるか？
• RQ4 信頼度測定の選択が過学習規則の割合と全体的な規則品質に与える影響は何か？
• RQ5 過学習規則のフィルタリングは、知識グラフ補完タスクのパフォーマンスをどの程度向上させ得るか？

主な発見

• GPFLは構造的に類似した規則間でグランドイングを共有することで、インスタンス化された規則の評価にかかる実行時間を短縮し、顕著な効率性向上を達成した。
• 本手法は、二段階のテンプレートベース生成プロセスのおかげで、既存の手法と比較して著しく多くの高品質なインスタンス化規則を発見した。
• 検証を適用して過学習規則をフィルタリングすることで、過学習要因を0.1に設定した場合、上位50規則のグローバル平均再現率がほぼ0％から約20％に向上した。
• 過学習規則をフィルタリングした後、特に大きな検証セットを用いた再分割評価設定において、GPFLの知識グラフ補完における予測性能が顕著に向上した。
• アンサンブルモードを用いたGPFLは、FB15K-237およびWN18RRで競争力ある性能を示し、フィルタリングMRRおよびhits@10指標において、強力な論理ベースおよび埋め込みベースのベースラインを上回るか、同等の性能を達成した。
• 長大なインスタンス化規則が過学習の主な要因であることが判明し、抽象規則と比較してインスタンス化規則は著しく過学習しやすいことが示された。これにより、慎重な検証の必要性が強調された。