[论文解读] Knowledge Graph Alignment Network with Gated Multi-hop Neighborhood Aggregation

Zequn Sun, Chengming Wang+5 more|arXiv (Cornell University)|Nov 20, 2019

Advanced Graph Neural Networks参考文献 34被引用 20

一句话总结

本文提出AliNet，一种知识图谱对齐网络，通过门控注意力机制聚合多跳邻域信息，缓解跨知识图谱实体对齐中的邻域非同构问题。通过融合直接邻居与远距离邻居信息，并引入关系损失以优化表示学习，该方法在五个基准数据集上实现了最先进性能。

ABSTRACT

Graph neural networks (GNNs) have emerged as a powerful paradigm for embedding-based entity alignment due to their capability of identifying isomorphic subgraphs. However, in real knowledge graphs (KGs), the counterpart entities usually have non-isomorphic neighborhood structures, which easily causes GNNs to yield different representations for them. To tackle this problem, we propose a new KG alignment network, namely AliNet, aiming at mitigating the non-isomorphism of neighborhood structures in an end-to-end manner. As the direct neighbors of counterpart entities are usually dissimilar due to the schema heterogeneity, AliNet introduces distant neighbors to expand the overlap between their neighborhood structures. It employs an attention mechanism to highlight helpful distant neighbors and reduce noises. Then, it controls the aggregation of both direct and distant neighborhood information using a gating mechanism. We further propose a relation loss to refine entity representations. We perform thorough experiments with detailed ablation studies and analyses on five entity alignment datasets, demonstrating the effectiveness of AliNet.

研究动机与目标

• 解决由于模式异构性和数据不完整导致的跨知识图谱实体对齐中邻域结构非同构的挑战。
• 通过将邻域重叠扩展至直接邻居之外，改进对应实体的表示学习。
• 构建一个端到端框架，有效聚合直接与远距离邻域信息，同时降低噪声影响。
• 通过引入关系损失增强模型表达能力，捕捉如三角关系等结构模式。
• 在不依赖外部辅助信息的前提下，实现在多个实体对齐基准上的最先进性能。

提出的方法

• AliNet采用多跳邻域聚合机制，捕获每个实体的一跳邻居与远距离邻居的信息。
• 利用注意力机制动态加权远距离邻居的重要性，降低噪声影响，突出语义相关节点。
• 门控机制结合多个聚合函数的输出，实现直接与多跳邻域表示的自适应融合。
• 模型集成关系损失函数，鼓励在嵌入空间中对齐如三角关系等结构模式。
• 通过组合所有层的特征表示实体表征，增强模型表达能力与鲁棒性。
• 该框架采用端到端训练，支持邻域聚合与对齐目标的联合优化。

实验结果

研究问题

• RQ1 当对应实体具有非同构邻域结构时，多跳邻域聚合是否能提升实体对齐性能？
• RQ2 注意力机制在实体表示学习中，对选择信息丰富的远距离邻居并抑制噪声方面有多高效？
• RQ3 门控机制在图神经网络对齐框架中，对直接与远距离邻域信息融合的改进程度如何？
• RQ4 引入捕捉如三角关系等结构模式的关系损失，是否能提升对齐性能？
• RQ5 在低重叠实体对上，AliNet相较于现有图神经网络基线模型在鲁棒性方面表现如何？

主要发现

• AliNet在五个实体对齐基准上达到最先进性能，优于现有图神经网络基线模型。
• 在DBP15K数据集上，AliNet的Hits@1达到0.657，显著优于GCN（0.552）及其他基线模型。
• 在邻域重叠度较低的实体对上，模型表现更优，训练过程中平均重叠系数（OC）值更低。
• 消融实验表明，门控聚合与关系损失组件均对性能提升有显著贡献。
• 层间分析显示，融合多层表示的模型性能优于仅使用单一层的表示。
• 注意力机制能有效识别相关远距离邻居，提升在异构知识图谱中的鲁棒性。