[论文解读] Exploring and Evaluating Attributes, Values, and Structures for Entity Alignment

Zhiyuan Liu, Yixin Cao+4 more|arXiv (Cornell University)|Oct 7, 2020

Topic Modeling参考文献 29被引用 9

一句话总结

该论文提出AttrGNN，一种图神经网络，通过动态属性值编码器和子图划分，联合建模关系三元组与属性三元组，以优先考虑具有区分性的属性。在DBP15k数据集上，无论是在标准设置还是困难设置下，该方法在Hits@1指标上均比12个基线模型平均提升5.10%，证明了其对名称偏差的鲁棒性。

ABSTRACT

Entity alignment (EA) aims at building a unified Knowledge Graph (KG) of rich content by linking the equivalent entities from various KGs. GNN-based EA methods present promising performances by modeling the KG structure defined by relation triples. However, attribute triples can also provide crucial alignment signal but have not been well explored yet. In this paper, we propose to utilize an attributed value encoder and partition the KG into subgraphs to model the various types of attribute triples efficiently. Besides, the performances of current EA methods are overestimated because of the name-bias of existing EA datasets. To make an objective evaluation, we propose a hard experimental setting where we select equivalent entity pairs with very different names as the test set. Under both the regular and hard settings, our method achieves significant improvements ($5.10\%$ on average Hits@$1$ in DBP$15$k) over $12$ baselines in cross-lingual and monolingual datasets. Ablation studies on different subgraphs and a case study about attribute types further demonstrate the effectiveness of our method. Source code and data can be found at https://github.com/thunlp/explore-and-evaluate.

研究动机与目标

• 为解决现有实体对齐方法中对属性三元组利用不足的问题，这些方法通常仅依赖结构化关系。
• 为解决根据属性和值的区分能力动态分配不同重要性的挑战。
• 为缓解现有EA基准中因偏向基于名称的匹配而导致的性能高估问题。
• 通过构建一个硬测试集（其中语义等价的实体具有截然不同的名称），提出更真实的评估协议。
• 证明在实际场景中，非名称属性（尤其是文本型和数值型属性）可显著提升对齐性能。

提出的方法

• 提出统一的GNN框架AttrGNN，通过共享的消息传递机制联合编码关系三元组与属性三元组。
• 引入属性值编码器，基于其对齐相关性动态学习属性与值的注意力权重。
• 将知识图谱划分为四个子图——名称、文本型、数值型和结构型，以支持类型特定的相似性度量与聚合。
• 采用均值聚合器，通过基于关系的邻域聚合，将来自有信息量的属性的对齐信号进行传播。
• 通过选择名称高度不相似的等价实体对，实施硬评估设置，以模拟现实世界中的对齐挑战。
• 使用基于BERT的编码器处理实体名称，并通过对比损失端到端微调模型以优化对齐性能。

实验结果

研究问题

• RQ1 联合建模关系三元组与属性三元组是否能超越仅依赖结构关系的性能？
• RQ2 如何根据其对对齐的区分能力，动态加权不同类型属性（如名称、文本型、数值型）？
• RQ3 当在名称不相似的硬基准上评估时，现有EA模型的性能会下降到何种程度？
• RQ4 基于属性类型的子图划分是否能提升模型捕捉类型特异性属性相似性的能力？
• RQ5 在名称匹配失败的实际场景中，使用非名称属性是否能显著提升对齐性能？

主要发现

• 在DBP15k数据集上，AttrGNN在标准与硬评估设置下，相比12个基线模型，Hits@1平均提升5.10%。
• 在硬测试集上，该模型显著优于NameBERT及其他基于名称的模型，证明了其对名称变化的鲁棒性。
• 消融实验表明，在硬设置下，文本型与结构型通道的性能几乎与名称通道相当，证明了非名称特征的价值。
• 移除图划分策略（即MixAttrGNN）导致性能显著下降，证实了类型特定处理的优势。
• 数值型属性通道表现较差，原因在于数值比较学习困难，提示需要设计专门的数值感知表示。
• 案例研究确认，注意力权重高的属性通常是具有相同值的属性（如邮政缩写、国旗），而单位不匹配的属性（如面积单位为平方英里 vs. 平方公里）则注意力低，被过滤掉。