[论文解读] High-Throughput and Language-Agnostic Entity Disambiguation and Linking on User Generated Data

Preeti Bhargava, Nemanja Spasojevic+1 more|arXiv (Cornell University)|Mar 13, 2017

Topic Modeling参考文献 17被引用 5

一句话总结

本文提出Lithium EDL系统，一种高吞吐量、与语言无关的实体消歧与链接框架，利用上下文相关和上下文无关特征（如提及-实体共现、实体流行度、上下文相似度）在多种语言中进行实体消歧。该系统比最先进的系统（如Google Cloud NLP和OpenCalais）多提取75%的实体，同时在普通硬件上运行速度显著更快。

ABSTRACT

The Entity Disambiguation and Linking (EDL) task matches entity mentions in text to a unique Knowledge Base (KB) identifier such as a Wikipedia or Freebase id. It plays a critical role in the construction of a high quality information network, and can be further leveraged for a variety of information retrieval and NLP tasks such as text categorization and document tagging. EDL is a complex and challenging problem due to ambiguity of the mentions and real world text being multi-lingual. Moreover, EDL systems need to have high throughput and should be lightweight in order to scale to large datasets and run on off-the-shelf machines. More importantly, these systems need to be able to extract and disambiguate dense annotations from the data in order to enable an Information Retrieval or Extraction task running on the data to be more efficient and accurate. In order to address all these challenges, we present the Lithium EDL system and algorithm - a high-throughput, lightweight, language-agnostic EDL system that extracts and correctly disambiguates 75% more entities than state-of-the-art EDL systems and is significantly faster than them.

研究动机与目标

• 解决实体消歧与链接（EDL）中的歧义、多语言用户生成内容、高吞吐量和丰富实体标注等挑战。
• 开发一种轻量级、可扩展的EDL系统，能够在现成机器上高效运行于大规模数据集。
• 将实体识别从命名实体（如人物、组织）扩展至职业头衔、体育项目和活动等。
• 支持多种语言（包括英语、阿拉伯语、西班牙语、法语、德语和日语），且不牺牲性能或准确性。
• 在实体覆盖范围和运行时效率方面超越现有商业和研究级EDL系统。

提出的方法

• 系统采用混合方法，结合上下文相关特征（如提及-实体共现、上下文相似度）和上下文无关特征（如实体流行度、提及频率）。
• 应用生成模型，在统一框架中整合实体流行度、提及-实体关联和上下文相似度的证据。
• 通过依赖共现模式和实体流行度等通用特征，避免使用语言特定模型，使算法实现与语言无关。
• 利用预索引的知识库（初始为Freebase，计划迁移至Wikipedia）实现快速查找与消歧。
• 通过最小化预处理和消歧阶段的计算开销，优化系统以实现高吞吐量。
• 采用可扩展的流水线架构，将文本预处理与消歧分离，支持并行化处理和高效资源利用。

实验结果

研究问题

• RQ1 语言无关的EDL系统能否实现比Google Cloud NLP和OpenCalais等商业系统更高的实体覆盖范围？
• RQ2 高吞吐量、轻量级EDL系统的性能与最先进系统相比，在速度和可扩展性方面如何？
• RQ3 上下文相关和上下文无关特征在多种语言和实体类型中，能在多大程度上提升消歧准确率和召回率？
• RQ4 系统能否以高精度和高召回率提取并正确消歧非命名实体（如活动、职业）？
• RQ5 与现有框架相比，该系统在大规模多语言用户生成内容上的运行时性能如何扩展？

主要发现

• Lithium EDL系统比Google Cloud NLP多消歧至少75%的实体，估计有6,080个正确实体被Google NL遗漏但被本系统正确识别。
• 系统识别出超过3,500个被OpenCalais遗漏的实体，表明其召回率显著更高。
• Lithium流水线的文本预处理阶段比依赖Stanford NLP NER的AIDA快30,000至50,000倍。
• 尽管消歧运行时间相近，Lithium系统每50KB文本提取的实体数量是AIDA的2.8倍。
• Lithium流水线中每个唯一提取实体的消歧运行时间比AIDA快3.5倍。
• 系统成功消歧并链接了'ios'和'tech industry'等实体——这些实体被Google NL、OpenCalais和AIDA遗漏，证明其表达能力和覆盖范围更优。