[论文解读] Design Challenges in Low-resource Cross-lingual Entity Linking

Xingyu Fu, Weijia Shi+3 more|arXiv (Cornell University)|May 2, 2020

Topic Modeling参考文献 17被引用 5

一句话总结

本文提出 QuEL，一种零样本跨语言实体链接系统，利用搜索引擎查询日志克服维基百科互语言链接在低资源语言中的局限性。通过将查询日志作为外部跨语言资源，QuEL 在维基百科外文本上的性能相比最先进基线模型，平均召回率提升 25%，端到端链接准确率提升 13%。

ABSTRACT

Cross-lingual Entity Linking (XEL), the problem of grounding mentions of entities in a foreign language text into an English knowledge base such as Wikipedia, has seen a lot of research in recent years, with a range of promising techniques. However, current techniques do not rise to the challenges introduced by text in low-resource languages (LRL) and, surprisingly, fail to generalize to text not taken from Wikipedia, on which they are usually trained. This paper provides a thorough analysis of low-resource XEL techniques, focusing on the key step of identifying candidate English Wikipedia titles that correspond to a given foreign language mention. Our analysis indicates that current methods are limited by their reliance on Wikipedia's interlanguage links and thus suffer when the foreign language's Wikipedia is small. We conclude that the LRL setting requires the use of outside-Wikipedia cross-lingual resources and present a simple yet effective zero-shot XEL system, QuEL, that utilizes search engines query logs. With experiments on 25 languages, QuEL~shows an average increase of 25\% in gold candidate recall and of 13\% in end-to-end linking accuracy over state-of-the-art baselines.

研究动机与目标

• 分析现有低资源跨语言实体链接（XEL）方法在候选生成方面的局限性。
• 识别出对维基百科互语言链接的依赖严重限制了低资源语言（LRLs）在非维基百科文本上的性能表现。
• 通过提出维基百科之外的替代跨语言信号源，解决低资源语言中缺乏跨语言监督的问题。
• 开发并评估一种新型候选生成方法 QuEL_CG，利用搜索引擎查询日志提升覆盖范围与准确性。
• 展示一个完整的零样本 XEL 框架 QuEL，该框架在基于维基百科和非维基百科的数据集上均达到最先进性能。

提出的方法

• QuEL_CG 利用搜索引擎查询日志，将低资源语言（LRL）提及映射到英文维基百科实体，从而绕过对维基百科互语言链接的依赖。
• 该方法将每个查询日志条目视为潜在的跨语言映射，即当查询导向特定英文维基百科条目时，该条目中的 LRL 提及即被视为与该英文维基百科实体相关联。
• 通过收集所有包含特定 LRL 提及且导向特定英文维基百科页面的查询，构建双语映射，形成概率性候选列表。
• 系统利用查询日志的规模与多样性——其规模比维基百科高出数个数量级——以覆盖未出现在 LRL 维基百科或互语言链接中的实体。
• QuEL 将 QuEL_CG 集成到完整的零样本 XEL 流程中，采用无需在 LRL 数据上微调的简单排序模块。
• 该方法设计为可通过依赖外部、可扩展的跨语言信号而非维基百科特有资源，实现对非维基百科文本的泛化。

实验结果

研究问题

• RQ1 为何现有低资源 XEL 系统无法泛化到非维基百科文本（如新闻或社交媒体）？
• RQ2 LRL 维基百科的规模及其互语言链接覆盖范围在多大程度上限制了当前 XEL 候选生成方法的性能？
• RQ3 搜索引擎查询日志能否作为低资源环境下维基百科互语言链接的可行且可扩展的替代方案？
• RQ4 与依赖维基百科的基线模型相比，基于查询日志的候选生成方法在提升真实候选召回率和端到端链接准确率方面效果如何？
• RQ5 所提出的 QuEL 系统在实体类型和语言多样性方面是否保持强大性能，尤其是在互语言链接稀疏的情况下？

主要发现

• 与最先进基线相比，QuEL 在包含非维基百科文本的 LORELEI 数据集上，真实候选召回率平均提升 25%。
• 在同一数据集上，QuEL 相比最佳基线，端到端链接准确率提升 13%，证明其在非维基百科文本上具有强大泛化能力。
• 在基于维基百科的数据集中，QuEL 实现了 4% 的真实候选召回率提升，并在链接准确率上达到或超过最先进水平。
• 对于维基百科互语言链接未覆盖的 LRL 特定实体，QuEL 在真实候选召回率上实现 6.3% 至 27.4% 的提升，证实其在低监督环境下的有效性。
• QuEL 在 GPE 和 LOC 实体上表现尤为出色，可能归因于搜索日志数据中谷歌地图查询日志的影响。
• 无论在何种语言或实体类型下，QuEL 均优于所有基线模型（包括 ELISA、xlwikifier 和 xelms），尤其在维基百科覆盖稀疏的低资源语言中表现突出。