[论文解读] Compositional Learning of Relation Path Embedding for Knowledge Base Completion

Xixun Lin, Yanchun Liang+3 more|arXiv (Cornell University)|Nov 22, 2016

Advanced Graph Neural Networks参考文献 18被引用 4

一句话总结

该论文提出了一种用于关系路径嵌入（RPE）的组合学习模型，通过在关系特定和路径特定的潜在空间中联合学习实体和关系表示，提升了知识库补全性能。通过引入可靠的路径排名、路径特定的投影和类型约束，RPE在最先进模型之上显著提升了链接预测和三元组分类的准确性。

ABSTRACT

Large-scale knowledge bases have currently reached impressive sizes; however, these knowledge bases are still far from complete. In addition, most of the existing methods for knowledge base completion only consider the direct links between entities, ignoring the vital impact of the consistent semantics of relation paths. In this paper, we study the problem of how to better embed entities and relations of knowledge bases into different low-dimensional spaces by taking full advantage of the additional semantics of relation paths, and we propose a compositional learning model of relation path embedding (RPE). Specifically, with the corresponding relation and path projections, RPE can simultaneously embed each entity into two types of latent spaces. It is also proposed that type constraints could be extended from traditional relation-specific constraints to the new proposed path-specific constraints. The results of experiments show that the proposed model achieves significant and consistent improvements compared with the state-of-the-art algorithms.

研究动机与目标

• 通过利用可靠关系路径的一致语义来提升知识库补全性能，而这些语义在现有模型中常被忽略。
• 解决基于翻译的模型仅依赖直接实体关系、无法利用多跳关系语义的局限性。
• 引入路径特定的投影和类型约束，将传统的关系特定机制扩展至路径特定空间，以增强嵌入空间中的可区分性。
• 通过使用路径排名算法（PRA）过滤不可靠路径，提升可解释性和推理能力。
• 证明关系路径的组合学习可带来更鲁棒且更准确的知识表征。

提出的方法

• RPE使用专用的投影矩阵 M_r 和 M_p，将每个实体分别投影到两个不同的潜在空间：关系特定空间和路径特定空间。
• 模型通过两种类型的组合机制（ACOM）动态组合路径表示，且不引入额外参数，从而实现灵活的路径嵌入。
• 路径特定的投影通过路径排名算法（PRA）学习，以识别并优先选择可靠的路径，提升语义一致性和模型可解释性。
• 类型约束从关系特定扩展至路径特定，增强了模型在嵌入空间中区分相似实体的能力。
• 采用改进的负采样策略，整合关系特定和路径特定的约束，提升训练稳定性和泛化能力。
• 模型基于 L1 范数设计评分函数以评估三元组的合理性，并通过学习的边距 δ_r 实现阈值化分类。

实验结果

研究问题

• RQ1 建模可靠关系路径的一致语义是否能提升知识库补全性能？
• RQ2 整合路径特定的投影和约束如何增强实体表示的可区分性？
• RQ3 路径特定的类型约束在区分相似实体方面，相较于关系特定约束的优越程度如何？
• RQ4 通过PRA过滤的路径集成是否能提升知识表征学习的可解释性和鲁棒性？
• RQ5 关系路径的组合学习是否能持续优于数据驱动的知识嵌入模型？

主要发现

• 在所有数据集上，RPE（PC + ACOM）在三元组分类任务中均取得最佳性能，显著优于基线模型。
• 与 RPE（initial）相比，RPE（PC）在 WN11、FB13 和 FB15K 上分别提升 4.5%、6.0% 和 13.2%，证明了路径特定投影的价值。
• 模型性能提升在 FB15K 上最为显著，表明基于路径的推理在复杂、大规模知识库中尤为有效。
• 使用路径特定的类型约束显著增强了模型的可区分性，优于仅依赖关系类型信息的模型。
• 案例研究证实，RPE能成功识别语义一致的关系路径（例如，'CreatedRole' → 'Describedin' 对应 'WroteBook'），而基于翻译的模型则会遗漏此类路径。
• 通过PRA过滤不可靠路径，提升了学习表征的可解释性，且未牺牲性能。