[论文解读] Multi-Channel Graph Neural Network for Entity Alignment

Yixin Cao, Zhiyuan Liu+4 more|arXiv (Cornell University)|Aug 26, 2019

Advanced Graph Neural Networks参考文献 20被引用 15

一句话总结

本文提出 MuGNN，一种多通道图神经网络，通过联合完成知识图谱和修剪独有实体，利用自注意力与跨知识图谱注意力机制增强实体对齐。通过在多个通道中实现规则迁移与鲁棒图编码，MuGNN 在五个公开数据集上相较强基线模型实现了平均 5% 的 Hits@1 提升。

ABSTRACT

Entity alignment typically suffers from the issues of structural heterogeneity and limited seed alignments. In this paper, we propose a novel Multi-channel Graph Neural Network model (MuGNN) to learn alignment-oriented knowledge graph (KG) embeddings by robustly encoding two KGs via multiple channels. Each channel encodes KGs via different relation weighting schemes with respect to self-attention towards KG completion and cross-KG attention for pruning exclusive entities respectively, which are further combined via pooling techniques. Moreover, we also infer and transfer rule knowledge for completing two KGs consistently. MuGNN is expected to reconcile the structural differences of two KGs, and thus make better use of seed alignments. Extensive experiments on five publicly available datasets demonstrate our superior performance (5% Hits@1 up on average).

研究动机与目标

• 解决知识图谱（KGs）之间结构异质性对有效实体对齐造成的阻碍。
• 克服在训练鲁棒知识图谱嵌入时种子对齐稀疏性带来的局限。
• 构建一个统一框架，联合执行知识图谱推理与实体对齐。
• 通过多通道编码显式调和缺失关系与独有实体，提升图表示学习能力。
• 在不依赖外部文本或迭代优化的前提下，实现更优的对齐性能。

提出的方法

• 采用多个 GNN 通道，从不同视角编码知识图谱：通过自注意力机制实现知识图谱补全，通过跨知识图谱注意力机制实现修剪。
• 使用 AMIE+ 在知识图谱之间挖掘并迁移规则知识，以实现缺失关系的一致补全。
• 通过自注意力机制对关系进行加权，突出信息丰富的关系，抑制各知识图谱中的噪声。
• 利用跨知识图谱注意力机制，为连接到单一知识图谱中独有实体的关系分配较低权重，从而有效过滤这些关系。
• 通过池化操作融合多个通道的输出，生成面向对齐任务的知识图谱嵌入。
• 端到端地使用种子对齐进行模型训练，以优化对齐性能。

实验结果

研究问题

• RQ1 如何显式调和知识图谱之间的结构异质性，以提升实体对齐效果？
• RQ2 规则推理与迁移在多大程度上能增强知识图谱补全与对齐的鲁棒性？
• RQ3 在种子对齐有限的情况下，具有多样化注意力机制的多通道图神经网络是否能优于单通道 GNN？
• RQ4 通过注意力机制集成知识图谱补全与修剪，如何影响嵌入质量与对齐准确率？
• RQ5 各组件（如规则迁移、自注意力、跨知识图谱注意力）对整体性能提升的贡献分别是什么？

主要发现

• 与最先进方法相比，MuGNN 在五个公开数据集上实现了平均 5% 的 Hits@1 提升。
• 消融实验确认，规则迁移与多通道注意力机制均对性能提升有显著贡献。
• 规则迁移能有效弥合知识图谱间的信息不对称，例如利用从英文 DBPedia 中挖掘的规则，补全中文 DBPedia 中的缺失关系。
• 跨知识图谱注意力能成功识别并降低独有实体的权重，从而减少单一知识图谱带来的结构偏差。
• 该模型在结构差异较大的情况下表现出强鲁棒性，尤其在种子对齐稀疏时表现更优。
• 错误分析表明，噪声规则（如 (a, team, b) ⇒ (a, affiliation, b)）可能产生过多的合理化推论，提示未来工作需加强规则过滤。