[论文解读] Instance-based Learning for Knowledge Base Completion

Wanyun Cui, Xingran Chen|arXiv (Cornell University)|Nov 13, 2022

Semantic Web and Ontologies被引用 4

一句话总结

本文提出了一种用于知识库补全的基于实例的学习（IBL）方法，其中通过识别具有共享关系属性的原型实体来进行预测——例如，通过乔·拜登作为原型来推断吉尔·拜登的居住城市。IBL实现了最先进性能，并揭示了基于规则的模型在很大程度上依赖于IBL规则（代表基于实例的等价性），从而挑战了长期以来认为基于规则的推理依赖于语义兼容性的观点。

ABSTRACT

In this paper, we propose a new method for knowledge base completion (KBC): instance-based learning (IBL). For example, to answer (Jill Biden, lived city,? ), instead of going directly to Washington D.C., our goal is to find Joe Biden, who has the same lived city as Jill Biden. Through prototype entities, IBL provides interpretability. We develop theories for modeling prototypes and combining IBL with translational models. Experiments on various tasks confirmed the IBL model's effectiveness and interpretability. In addition, IBL shed light on the mechanism of rule-based KBC models. Previous research has generally agreed that rule-based models provide rules with semantically compatible premises and hypotheses. We challenge this view. We begin by demonstrating that some logical rules represent {\it instance-based equivalence} (i.e. prototypes) rather than semantic compatibility. These are denoted as {\it IBL rules}. Surprisingly, despite occupying only a small portion of the rule space, IBL rules outperform non-IBL rules in all four benchmarks. We use a variety of experiments to demonstrate that rule-based models work because they have the ability to represent instance-based equivalence via IBL rules. The findings provide new insights of how rule-based models work and how to interpret their rules.

研究动机与目标

• 开发一种新型、可解释的知识库补全（KBC）方法，以避免传统嵌入方法和基于规则方法的局限性。
• 在知识库补全的背景下，使用基于翻译模型的原型形式化基于实例的学习（IBL）。
• 研究IBL在基于规则的KBC中的作用，并挑战基于规则的模型依赖于语义兼容性的假设。
• 证明IBL规则（代表基于实例的等价性）即使仅占据规则空间的一小部分，也优于非IBL规则。
• 建立IBL与翻译模型之间的联合优化框架，以提升KBC性能。

提出的方法

• IBL模型识别一个与查询头实体具有相同关系值的原型实体，例如在'居住城市'关系中，乔·拜登作为吉尔·拜登的原型。
• 原型通过基于翻译模型的闭式表达式推导得出，从而实现高效且可解释的推理。
• 提出了一种联合优化理论，将IBL与翻译模型结合，对齐两者的优化目标以提升性能。
• 通过消融实验评估基于规则的模型，将IBL规则与非IBL规则隔离，以评估其各自贡献。
• 在RNNLogic中修改规则集合，以控制IBL与非IBL规则，从而实现对规则质量与性能的直接比较。
• 理论分析表明，知识图谱中的低秩假设支持有意义原型的存在，从而验证了IBL方法的有效性。

实验结果

研究问题

• RQ1 基于实例的学习（IBL）能否提供一种有效且可解释的传统知识库补全方法的替代方案？
• RQ2 如何使用翻译模型正式表达IBL中的原型，其闭式解是什么？
• RQ3 IBL规则在基于规则的KBC中扮演什么角色，它们是否优于基于语义兼容性的规则？
• RQ4 为何IBL规则尽管在规则空间中占比极小，却在基于规则的模型中占据主导性能表现？
• RQ5 IBL能否与翻译模型结合以提升KBC性能，这种结合的理论基础是什么？

主要发现

• IBL规则（代表基于实例的等价性）在所有四个基准测试中均优于非IBL规则，当仅使用IBL规则时，FB15k-237和WN18RR的Hit@10分数分别为49.9和49.9。
• 在Kinship和UMLS数据集中，仅使用IBL规则时性能无显著下降，分别达到Kinship的96.6% H@10和UMLS的94.7% H@10。
• 尽管仅占据规则空间的一小部分，IBL规则的平均精确率（3.7% vs. 1.7%）和支持度（708.3 vs. 281.4）显著高于非IBL规则。
• IBL与翻译模型联合优化的模型在四个基准中的两个上优于现有方法，证明了联合优化的有效性。
• 所提出的IBL模型CIBLE在四个基准中的三个上优于RNNLogic，表明IBL是建模基于实例等价性的更优替代方案。
• 本研究挑战了主流观点，即基于规则的模型通过语义兼容性工作，而是表明其主要通过IBL规则表示基于实例的等价性来实现。