[论文解读] Learning Alternative Name Spellings

Jeffrey Sukharev, Leonid Zhukov+1 more|arXiv (Cornell University)|May 7, 2014

Data Quality and Management参考文献 10被引用 3

一句话总结

本文提出一种基于字符级别的机器翻译（MT）方法，利用大规模家谱数据和用户搜索查询日志，构建众包训练集，以学习姓氏的替代拼写。该方法在精确率和召回率方面显著优于传统的音似法和字符串相似度技术，其中Moses 5-gram MT模型在搜索和记录数据集上均表现最佳。

ABSTRACT

Name matching is a key component of systems for entity resolution or record linkage. Alternative spellings of the same names are a com- mon occurrence in many applications. We use the largest collection of genealogy person records in the world together with user search query logs to build name matching models. The procedure for building a crowd-sourced training set is outlined together with the presentation of our method. We cast the problem of learning alternative spellings as a machine translation problem at the character level. We use in- formation retrieval evaluation methodology to show that this method substantially outperforms on our data a number of standard well known phonetic and string similarity methods in terms of precision and re- call. Additionally, we rigorously compare the performance of standard methods when compared with each other. Our result can lead to a significant practical impact in entity resolution applications.

研究动机与目标

• 解决实体消解系统中识别姓氏可信拼写变体的挑战。
• 开发一种基于数据驱动的方法，从家谱数据库和搜索日志中的真实用户行为中学习姓名变体。
• 通过生成高精度、排序的姓氏拼写变体列表，提升家谱应用中的搜索准确性。
• 使用严格的信息检索指标，评估并比较机器翻译、音似法和字符串相似度方法的性能。
• 提供一种可扩展、实用的解决方案，用于实体消解，以捕捉标准算法无法涵盖的真实世界拼写变化。

提出的方法

• 作者将学习姓名变体的问题建模为一个字符级别的机器翻译任务，将姓名变体视为源姓名的翻译。
• 使用Moses工具包训练神经机器翻译模型，并采用n-gram语言模型（5-gram和6-gram）以提升翻译质量。
• 训练数据来自两个来源：(1) 用户生成的家庭树链接至扫描记录，以及(2) 记录的用户会话中的查询重写。
• 对数据集进行预处理，以去除个人身份信息，仅保留姓氏对，并筛选出高质量的姓名匹配。
• 通过10折交叉验证获得精确率-召回率曲线和置信区间，并使用椭圆密度轮廓进行统计显著性分析。
• 使用标准的信息检索评估方法，将性能与Soundex、NYSIIS、Jaro-Winkler、Levenshtein和Phonex等标准方法进行比较。

实验结果

研究问题

• RQ1 基于字符的机器翻译模型是否能在识别姓氏拼写变体方面超越传统的音似法和字符串相似度方法？
• RQ2 在真实世界家谱姓名变体数据上，不同音似编码方法（如NYSIIS、Soundex）的性能如何比较？
• RQ3 查询重写日志和记录关联数据在构建高质量姓名拼写变体检测训练集方面贡献有多大？
• RQ4 在MT框架中，各种n-gram语言模型配置在姓名变体生成中的相对性能如何？
• RQ5 基于MT的方法是否能在不同数据源（如搜索日志与记录数据库）之间实现良好泛化？

主要发现

• Moses 5-gram机器翻译模型在‘搜索’和‘记录’数据集上，均显著优于其他所有方法，在精确率和召回率方面表现最佳。
• MT模型在精确率-召回率曲线下方面积最大，置信区间显示其性能具有统计显著优势。
• NYSIIS音似编码在本数据集上的表现优于其他音似方法，包括Soundex和Phonex，与先前研究结果相矛盾。
• Levenshtein和Jaro-Winkler相似度度量优于其他音似方法，但仍不及MT方法。
• 5-gram和6-gram MT模型在‘搜索’数据集上表现略优，而在‘记录’数据集上，不同MT模型之间的性能差异极小。
• 表现最佳的MT模型的置信区间仅与Jaro-Winkler和Levenshtein的置信区间轻微重叠，表明其与其他方法之间存在明显性能差距。