[论文解读] CorDEL: A Contrastive Deep Learning Approach for Entity Linkage

Zhengyang Wang, Bunyamin Sisman+3 more|arXiv (Cornell University)|Sep 15, 2020

Data Quality and Management参考文献 54被引用 5

一句话总结

CorDEL 提出了一种新颖的对比深度学习框架用于实体链接，通过同时捕捉句法和语义信号并保留细微差异，其性能优于孪生网络架构。在公开基准测试中，F1 分数提升 5.2%，在真实世界数据集上实现 2.4% 的性能提升，同时参数量相比之前最先进模型 DeepMatcher-Hybrid 减少了 97.6%。

ABSTRACT

Entity linkage (EL) is a critical problem in data cleaning and integration. In the past several decades, EL has typically been done by rule-based systems or traditional machine learning models with hand-curated features, both of which heavily depend on manual human inputs. With the ever-increasing growth of new data, deep learning (DL) based approaches have been proposed to alleviate the high cost of EL associated with the traditional models. Existing exploration of DL models for EL strictly follows the well-known twin-network architecture. However, we argue that the twin-network architecture is sub-optimal to EL, leading to inherent drawbacks of existing models. In order to address the drawbacks, we propose a novel and generic contrastive DL framework for EL. The proposed framework is able to capture both syntactic and semantic matching signals and pays attention to subtle but critical differences. Based on the framework, we develop a contrastive DL approach for EL, called CorDEL, with three powerful variants. We evaluate CorDEL with extensive experiments conducted on both public benchmark datasets and a real-world dataset. CorDEL outperforms previous state-of-the-art models by 5.2% on public benchmark datasets. Moreover, CorDEL yields a 2.4% improvement over the current best DL model on the real-world dataset, while reducing the number of training parameters by 97.6%.

研究动机与目标

• 为解决孪生网络深度学习模型在实体链接任务中的局限性，这些模型因嵌入空间中的平滑效应而无法捕捉细微但关键的差异。
• 开发一种通用的对比深度学习框架，联合建模句法与语义匹配信号，以提升实体链接性能。
• 构建一种轻量化、稳定且高效的深度学习模型，适用于真实世界实体链接应用，显著减少参数数量并保持一致性能。
• 证明在原始字符串层面进行对比学习，而非在嵌入空间中，能更有效地区分具有微小差异的非匹配对。

提出的方法

• 提出一种在原始字符串层面直接处理输入记录对的对比深度学习框架，避免深度神经网络在嵌入空间中产生的平滑效应。
• 引入一种新颖架构，在嵌入前对输入字符串进行对比，使模型能够关注细粒度差异，如颜色或数量的变化。
• 采用三种变体：CorDEL-Sum、CorDEL-Attention 和带残差连接的 CorDEL-Attention，每种均旨在增强匹配信号的学习。
• 使用类孪生编码器与对比损失进行训练，使模型基于表面特征与语义特征区分匹配对与非匹配对。
• 应用注意力机制聚焦文本中的关键差异，如 'black' 与 'cyan' 或 '6 pack' 与 '8 pack'，从而提升对困难负样本的判别能力。
• 端到端训练模型，采用对比损失函数，促使正样本对的嵌入尽可能接近，负样本对的嵌入尽可能远离，同时保留原始字符串层面的差异。

实验结果

研究问题

• RQ1 在原始字符串层面运行的对比深度学习框架是否能在实体链接任务中超越现有孪生网络架构？
• RQ2 保留细粒度句法差异是否能提升在具有细微变化（如产品颜色或数量）的实体链接任务中的性能？
• RQ3 对比框架是否能在显著减少模型参数数量的同时实现最先进性能？
• RQ4 所提出的模型在多次训练运行中是否更具稳定性，特别是在对真实世界应用至关重要的高精度场景下？

主要发现

• CorDEL 在公开基准数据集上相比之前最先进模型，F1 分数绝对提升 5.2%，展现出一致的性能优势。
• 在真实世界数据集上，CorDEL -Attention 在 95% 精度下实现 2.4% 的召回率提升，相比 DeepMatcher -Hybrid，参数量减少 97.6%。
• 该模型表现出更优的稳定性，其精确率-召回率曲线在 10 次独立训练运行中均保持一致，而 DeepMatcher -Hybrid 表现不稳定。
• 案例研究显示，CorDEL 能够正确识别具有细微差异的非匹配对，如 'black' 与 'cyan' 墨盒或 '6 pack' 与 '8 pack'，而 DeepMatcher 则失败，凸显其保留关键区别的能力。
• 对比框架显著降低了深度网络的平滑效应，使模型在语义相似但内容实际不同的困难负样本上具备更强的判别能力。
• CorDEL -Sum 实现 PRAUC 91.6% 和 R@P=95% 为 68.2%，优于 DeepMatcher -Hybrid（PRAUC：90.5%，R@P=95%：52.7%），且仅使用其 3.2% 的参数量。