[論文レビュー] Instance-based Learning for Knowledge Base Completion

Wanyun Cui, Xingran Chen|arXiv (Cornell University)|Nov 13, 2022

Semantic Web and Ontologies被引用数 4

ひとこと要約

本稿は、知識ベース補完のためのインスタンスベース学習（IBL）を導入する。予測は、共有される関係的性質を持つプロトタイプエンティティを特定することで行われる。例えば、ジョー・バイデンをプロトタイプとして用いることで、ジル・バイデンの居住都市を推定する。IBLは最先端の性能を達成し、ルールベースモデルが意味的適合性に依存しているという長年の信念に反し、ルールベースモデルがインスタンスベース同等性を表すIBLルールに強く依存していることを示している。

ABSTRACT

In this paper, we propose a new method for knowledge base completion (KBC): instance-based learning (IBL). For example, to answer (Jill Biden, lived city,? ), instead of going directly to Washington D.C., our goal is to find Joe Biden, who has the same lived city as Jill Biden. Through prototype entities, IBL provides interpretability. We develop theories for modeling prototypes and combining IBL with translational models. Experiments on various tasks confirmed the IBL model's effectiveness and interpretability. In addition, IBL shed light on the mechanism of rule-based KBC models. Previous research has generally agreed that rule-based models provide rules with semantically compatible premises and hypotheses. We challenge this view. We begin by demonstrating that some logical rules represent {\it instance-based equivalence} (i.e. prototypes) rather than semantic compatibility. These are denoted as {\it IBL rules}. Surprisingly, despite occupying only a small portion of the rule space, IBL rules outperform non-IBL rules in all four benchmarks. We use a variety of experiments to demonstrate that rule-based models work because they have the ability to represent instance-based equivalence via IBL rules. The findings provide new insights of how rule-based models work and how to interpret their rules.

研究の動機と目的

• 従来の埋め込みモデルおよびルールベースモデルの限界を回避する、解釈可能な新しい知識ベース補完（KBC）手法の開発。
• 翻訳モデルから導出されるプロトタイプを用いて、KBCの文脈におけるインスタンスベース学習（IBL）の形式化。
• ルールベースKBCにおけるIBLの役割を調査し、ルールベースモデルが意味的適合性に依存しているという仮定に疑問を呈すること。
• IBLルール（インスタンスベース同等性を表す）が、ルール空間の小さな部分を占めながらも、非IBLルールを上回ることを示すこと。
• IBLと翻訳モデルの間の共同最適化フレームワークを確立し、KBC性能の向上を図ること。

提案手法

• IBLモデルは、クエリヘッドエンティティと同一の関係的値を持つプロトタイプエンティティを特定する。例えば、ジョー・バイデンをジル・バイデンの『居住都市』関係におけるプロトタイプとして用いる。
• プロトタイプは、翻訳モデルに基づく閉形式式を用いて導出され、効率的かつ解釈可能な推論を可能にする。
• IBLと翻訳モデルを統合するための共同最適化理論が開発され、両者の最適化目的が整合される。
• アブレーションを用いてルールベースモデルを評価し、IBLルールと非IBLルールを分離して、それぞれの貢献度を評価する。
• RNNLogicにおいて、IBL対非IBLルールを制御可能なようにルール収集を変更し、ルールの質と性能の直接比較を可能にする。
• 理論的分析により、知識グラフにおける低ランク仮定が意味のあるプロトタイプの存在を支持することを示し、IBLアプローチの妥当性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 インスタンスベース学習（IBL）は、従来の知識ベース補完手法の効果的かつ解釈可能な代替手段を提供できるか？
• RQ2 翻訳モデルを用いてIBLのプロトタイプを形式的に表現できるか。また、その閉形式解は存在するか？
• RQ3 ルールベースKBCにおけるIBLルールの役割は何か。意味的適合性に基づくルールと比較して、性能が優れているか？
• RQ4 ルール空間に占める割合が小さいにもかかわらず、なぜIBLルールが性能を支配するのか？
• RQ5 IBLと翻訳モデルを統合することでKBC性能が向上するか。このような統合の理論的根拠は何か？

主な発見

• インスタンスベース同等性を表すIBLルールは、4つのベンチマークすべてで非IBLルールを上回り、FB15k-237ではHit@10が49.9、WN18RRでは49.9を記録した。
• KinshipおよびUMLSでは、IBLルールのみを用いても、すべてのルールを用いた場合と比較して顕著な性能低下がなく、Kinshipでは96.6% H@10、UMLSでは94.7% H@10を達成した。
• ルール空間の小さな部分を占めながらも、IBLルールの平均精度（3.7%）は非IBLルール（1.7%）を大きく上回り、サポート（708.3 vs. 281.4）も顕著に高い。
• IBLと翻訳モデルを統合したモデルは、4つのベンチマークのうち2つで既存手法を上回り、共同最適化の有効性を示した。
• 提案されたIBLモデル（CIBLE）は、4つのベンチマークのうち3つでRNNLogicを上回り、ルールベースモデルにおけるインスタンスベース同等性のモデル化に、IBLがより効果的であることを示した。
• 本研究は、ルールベースモデルが意味的適合性によって機能すると広く信じられてきた見解に反し、実際にはインスタンスベース同等性を表すIBLルールによって主に機能していることを示している。