[論文レビュー] Reinforced Anytime Bottom Up Rule Learning for Knowledge Graph Completion

Christian Meilicke, Melisachew Wudage Chekol+2 more|arXiv (Cornell University)|Apr 9, 2020

Advanced Graph Neural Networks参考文献 26被引用数 31

ひとこと要約

この論文は AnyBURL を拡張し、象徴的知識グラフ補完法に Object Identity 制約と強化学習を適用して、ボトムアップのルールサンプリングを導く。最先端のサブシンボリック法と競合する性能を示す。

ABSTRACT

Most of todays work on knowledge graph completion is concerned with sub-symbolic approaches that focus on the concept of embedding a given graph in a low dimensional vector space. Against this trend, we propose an approach called AnyBURL that is rooted in the symbolic space. Its core algorithm is based on sampling paths, which are generalized into Horn rules. Previously published results show that the prediction quality of AnyBURL is on the same level as current state of the art with the additional benefit of offering an explanation for the predicted fact. In this paper, we are concerned with two extensions of AnyBURL. Firstly, we change AnyBURLs interpretation of rules from $Θ$-subsumption into $Θ$-subsumption under Object Identity. Secondly, we introduce reinforcement learning to better guide the sampling process. We found out that reinforcement learning helps finding more valuable rules earlier in the search process. We measure the impact of both extensions and compare the resulting approach with current state of the art approaches. Our results show that AnyBURL outperforms most sub-symbolic methods.

研究の動機と目的

• 知識グラフ補完への象徴的アプローチをサブシンボリック法と並行して推進する。
• Object Identity が規則の信頼度と冗長性に与える影響を調査する。
• AnyBURL におけるボトムアップサンプリングプロセスを導くための強化学習を導入する。
• 標準的な KG ベンチマーク上で拡張機能を現状の最先端手法と比較評価する。

提案手法

• 知識グラフからのパスをボトムアップでサンプリングして一般化 Horn ルールを形成することにより、規則を学習する。
• 冗長または誤解を招く規則を抑制し、信頼度を調整するために Object Identity を適用する。
• 報酬戦略を用いてパスプロファイル間で計算リソースを割り当てるように強化学習を導入する。
• 規則の支持度、信頼度、規則長に基づく3つの報酬戦略を定義する。
• プロファイルの探索/活用を管理するための2つの意思決定方針（epsilon-greedy と weighted）を実装する。

実験結果

リサーチクエスチョン

• RQ1 Object Identity を組み込むことで AnyBURL の学習規則の精度と信頼性は向上するか。
• RQ2 強化学習はパスサンプリングプロセスを効果的に導き、早期に価値のある規則を発見できるか。
• RQ3 提案された拡張は標準データセットで最先端のサブシンボリックKG補完法と比較してどうか。
• RQ4 報酬戦略と方針が規則発見の効率と品質に与える影響は何か。

主な発見

Thresholds	OI	Rules	Reduced	Hits@1	Hits@10
s ≥ 100, c ≥ 0.5	off	2004	10.7%	0.739	0.88
s ≥ 100, c ≥ 0.5	on	215	0.938	0.942
s ≥ 10, c ≥ 0.1	off	12832	58.3%	0.765	0.88
s ≥ 10, c ≥ 0.1	on	7475	0.944	0.957

• Object Identity 制約は高信頼度の冗長な規則の数を著しく減らし、WN18 でより厳しい閾値下で Hits@1 および Hits@10 を改善する。
• 強化されたパスサンプリングは価値のある規則を早期に発見し、飽和ベースの探索と比較して予測性能を向上させる。
• AnyBURL は、提案拡張を適用した場合、WN18 や FB15-237 などの共通 KG ベンチマークで多くのサブシンボリック手法を上回る。