[论文解读] EntQA: Entity Linking as Question Answering

Wenzheng Zhang, Wenyue Hua+1 more|arXiv (Cornell University)|Oct 5, 2021

Topic Modeling参考文献 41被引用 24

一句话总结

EntQA 提出了一种新颖的实体链接框架，通过反转传统流水线，先使用密集检索召回候选实体，再通过阅读理解模型识别其提及，从而在 GERBIL 上实现最先进性能，在 AIDA-CoNLL 上实现 2.1 的绝对 F1 提升，在 8 个数据集上的宏平均 F1 提升 2.3，且无需依赖提及-候选字典或大规模弱监督。

ABSTRACT

A conventional approach to entity linking is to first find mentions in a given document and then infer their underlying entities in the knowledge base. A well-known limitation of this approach is that it requires finding mentions without knowing their entities, which is unnatural and difficult. We present a new model that does not suffer from this limitation called EntQA, which stands for Entity linking as Question Answering. EntQA first proposes candidate entities with a fast retrieval module, and then scrutinizes the document to find mentions of each candidate with a powerful reader module. Our approach combines progress in entity linking with that in open-domain question answering and capitalizes on pretrained models for dense entity retrieval and reading comprehension. Unlike in previous works, we do not rely on a mention-candidates dictionary or large-scale weak supervision. EntQA achieves strong results on the GERBIL benchmarking platform.

研究动机与目标

• 为解决传统实体链接中必须先预测提及再确定对应实体所带来的固有困境，该过程不自然且易出错。
• 通过反转流水线提升实体链接性能：先检索候选实体，再在文档中查找其提及。
• 消除对知识库特定提及-候选字典的依赖，此类字典可能引入偏差并限制模型泛化能力。
• 实现数据高效训练，无需依赖产业规模的弱监督预训练，使方法对学术研究者更具可及性。
• 利用密集实体检索与开放域问答的最新进展，构建更鲁棒、可扩展的实体链接系统。

提出的方法

• EntQA 使用双编码器密集检索模型，基于文档上下文从知识库中检索 top-K 候选实体，将实体视为‘问题’。
• 对于每个检索到的候选实体，交叉注意力阅读器模型扫描文档以预测一个或多个提及跨度，将其视为‘答案’。
• 模型采用基于阈值的推理策略，动态确定有效提及预测，避免固定长度输出的限制。
• 该方法端到端可训练，利用预训练模型：使用 BLINK 进行检索，使用在 QA 数据集上微调的 ELECTRA 进行阅读理解。
• 通过延迟最终预测以支持全局重排序，避免一 vs 全分类或 BIO 标注，从而提升跨度检测准确率。
• 支持灵活输出，可处理任意数量的实体与提及，适用于嵌套或重叠提及（留待未来工作）。

实验结果

研究问题

• RQ1 反转实体链接流水线——即先进行实体检索再进行提及检测——是否能提升整体性能并减少错误传播？
• RQ2 密集实体检索与开放域问答模型能否有效结合，以解决实体链接问题，且无需依赖提及-候选字典？
• RQ3 基于阈值的推理机制在处理文档中可变数量的实体提及方面，其有效程度如何？
• RQ4 与 GENRE 等最先进模型相比，EntQA 的表现如何，特别是在数据效率与弱监督依赖性方面？
• RQ5 该模型是否能自然支持嵌套或重叠的提及？这对现实应用场景有何影响？

主要发现

• EntQA 在 AIDA-CoNLL 测试集上实现 85.8 的域内 F1 分数，相比之前方法提升 2.1 个绝对点。
• 在 8 个评估数据集上的宏平均 F1 分数为 60.5，相比之前最先进模型提升 2.3 个绝对点。
• 检索组件在 AIDA 验证集上实现超过 98% 的 top-100 召回率，证实在不知晓提及的情况下检索相关实体极为有效。
• 阅读器模型做出合理预测，例如正确识别缺失的超链接，或链接到比黄金标准更具体的正确实体。
• 当仅衡量提及跨度正确性（忽略实体错误）时，F1 达到 92.3，表明其具备强大的提及检测能力。
• 阅读器在段落级别的实体接受/拒绝 F1 为 64.5，但在文档级别提升至 89.3，表明主要瓶颈在于从候选实体中区分出黄金标准实体与非黄金标准实体。