[论文解读] Jointly Learning Entity and Relation Representations for Entity Alignment

Yuting Wu, Xiao Liu+3 more|arXiv (Cornell University)|Sep 20, 2019

Advanced Graph Neural Networks参考文献 27被引用 9

一句话总结

该论文提出HGCN-JR，一种新颖的图神经网络框架，通过联合学习实体与关系表征实现跨语言知识图谱对齐，且无需预对齐的关系。通过从实体表征中近似关系表征，并利用门控GCN迭代优化联合表征，该模型在三个真实世界数据集上实现了最先进性能，显著优于现有方法，在实体与关系对齐方面均表现优异。

ABSTRACT

Entity alignment is a viable means for integrating heterogeneous knowledge among different knowledge graphs (KGs). Recent developments in the field often take an embedding-based approach to model the structural information of KGs so that entity alignment can be easily performed in the embedding space. However, most existing works do not explicitly utilize useful relation representations to assist in entity alignment, which, as we will show in the paper, is a simple yet effective way for improving entity alignment. This paper presents a novel joint learning framework for entity alignment. At the core of our approach is a Graph Convolutional Network (GCN) based framework for learning both entity and relation representations. Rather than relying on pre-aligned relation seeds to learn relation representations, we first approximate them using entity embeddings learned by the GCN. We then incorporate the relation approximation into entities to iteratively learn better representations for both. Experiments performed on three real-world cross-lingual datasets show that our approach substantially outperforms state-of-the-art entity alignment methods.

研究动机与目标

• 为解决现有实体对齐方法虽具备潜力却未充分利用关系表征的局限性。
• 开发一种可扩展的框架，无需预对齐的关系种子即可学习高质量的关系表征。
• 通过整合结构与关系信息，迭代优化联合实体表征，实现实体与关系对齐的联合优化。
• 减少构建种子对齐的人工投入，同时提升异构知识图谱上的对齐性能。

提出的方法

• 该框架采用门控图卷积网络（GCN）从异构知识图谱中学习初始实体表征。
• 通过GCN的实体嵌入近似关系表征，避免对预对齐关系的依赖。
• 通过结合邻近实体信息与近似的关系表征，构建联合实体表征，以增强结构上下文。
• 采用迭代训练过程优化实体与关系表征，通过联合优化实现相互提升。
• 模型使用门控机制动态加权不同关系与邻居的贡献，提升表征质量。
• 通过对比损失端到端训练框架，实现跨语言KG中实体与关系的对齐。

实验结果

研究问题

• RQ1 联合学习实体与关系表征是否能提升异构知识图谱中的实体对齐性能？
• RQ2 能否在无需预对齐关系的前提下，从实体嵌入中有效近似关系表征？
• RQ3 将关系信息融入实体表征是否能带来优于独立学习的对齐结果？
• RQ4 该模型对不同比例的种子对齐数据是否具有鲁棒性？
• RQ5 联合学习框架是否能发现初始种子对齐之外的新对齐实体与关系对？

主要发现

• HGCN-JR在三个真实世界的跨语言数据集上均达到最先进性能，显著优于现有方法，在实体与关系对齐方面均表现更优。
• 在DBP15K FR-EN数据集上，HGCN-JR仅使用10%的种子对齐数据即达到86.40% Hits@1，较使用40%种子数据的BootEA方法提升17.84%。
• 该模型对低比例种子对齐数据表现出强鲁棒性，在不同比例的训练数据下均保持稳定性能。
• 联合建模作为副产品带来了更优的关系对齐效果，HGCN-JR在关系对齐上优于仅优化实体对齐的模型。
• 案例研究显示，通过联合表征的迭代优化，模型成功发现新的对齐实体与关系对（如 (v_FR, v_EN) 和 (r_1, r_4)）。
• 该框架表明，联合表征比孤立的实体或关系建模更有效，验证了‘整体大于部分之和’的原理。