[论文解读] Question Answering over Knowledge Graphs with Neural Machine Translation and Entity Linking

Daniel Diomedi, Aidan Hogan|arXiv (Cornell University)|Jul 6, 2021

Topic Modeling被引用 10

一句话总结

本文提出 ElNeuQA，一种用于知识图谱问答的混合方法，结合神经机器翻译（NMT）生成查询模板、实体链接（EL）实现精准的实体识别，以及槽填充（SF）完成模板实例化。通过将实体消解与查询生成解耦，该方法显著减少了纯 NMT 模型中存在的与实体相关的错误，在 Wikidata QA 任务上实现了更优性能，尽管仍依赖于已见的查询模板。

ABSTRACT

The goal of Question Answering over Knowledge Graphs (KGQA) is to find answers for natural language questions over a knowledge graph. Recent KGQA approaches adopt a neural machine translation (NMT) approach, where the natural language question is translated into a structured query language. However, NMT suffers from the out-of-vocabulary problem, where terms in a question may not have been seen during training, impeding their translation. This issue is particularly problematic for the millions of entities that large knowledge graphs describe. We rather propose a KGQA approach that delegates the processing of entities to entity linking (EL) systems. NMT is then used to create a query template with placeholders that are filled by entities identified in an EL phase. Slot filling is used to decide which entity fills which placeholder. Experiments for QA over Wikidata show that our approach outperforms pure NMT: while there remains a strong dependence on having seen similar query templates during training, errors relating to entities are greatly reduced.

研究动机与目标

• 为解决知识图谱问答（KGQA）中神经机器翻译（NMT）的未登录词问题，特别是针对罕见或未见实体的问题。
• 减少纯 NMT 系统中因实体翻译错误或缺失导致的 KGQA 错误。
• 通过将实体链接与查询生成解耦，提升从自然语言问题生成 SPARQL 查询的鲁棒性与准确性。
• 评估将 NMT、实体链接与槽填充结合在模块化流水线中对复杂 KGQA 任务的有效性。
• 证明当实体通过专用链接系统在查询模板填充前完成消解时，与实体相关的错误可显著降低。

提出的方法

• 系统使用 NMT 生成带有通用占位符（如 <obj1>、<subj1>）的查询模板，而非具体实体，从而降低未登录词问题的风险。
• 通过四个系统（AIDA、DBpedia Spotlight、OpenTapioca、TagME）的集成进行实体链接（EL），结合投票与评分机制对每个提及的候选实体进行排序。
• 使用带有 GloVe 和 Flair 上下文嵌入的 BiLSTM-CRF 模型进行序列标注，以识别问题中短语的角色（如主语、宾语）。
• 槽填充（SF）通过将序列标注结果与 EL 结果匹配，将 NMT 生成模板中的占位符映射到具体实体，利用实体排序解决冲突。
• 采用强制填充策略作为回退机制：通过重叠提及识别、基于角色的匹配以及顺序填充，最大限度完成占位符填充。
• 该流水线在 LC-QuAD 2.0 和一个新型 WikidataQA 数据集上进行训练，使用标准标注的实体进行训练与评估。

实验结果

研究问题

• RQ1 将实体消解与查询生成解耦，是否能减少基于 NMT 的 KGQA 系统中的与实体相关的错误？
• RQ2 在生成 Wikidata 的准确 SPARQL 查询方面，混合 NMT-EL-SF 方法相较于纯 NMT 模型的性能如何？
• RQ3 在 KGQA 中，使用实体链接在多大程度上缓解了未登录词问题？
• RQ4 实体排序与回退策略对查询生成鲁棒性有何影响？
• RQ5 NMT、EL 与 SF 的模块化设计是否提升了对未见或复杂问题模板的泛化能力？

主要发现

• 所提出的 ElNeuQA 方法在 Wikidata QA 上优于最先进的纯 NMT 基线模型，尤其在减少与实体相关的错误方面表现突出。
• 尽管在训练中强烈依赖已见的查询模板，该方法仍显著降低了因未见或错误识别实体导致的错误。
• 使用实体链接显著提升了实体定位的准确性，尤其对 NMT 训练期间未见的稀有或模糊实体效果明显。
• 结合投票与评分机制的集成 EL 系统提供了稳健的候选实体排序，提升了下游槽填充的性能。
• 强制填充策略能有效恢复缺失或误分类的实体提及，提升整体查询的完整性。
• 结果表明，将 NMT、EL 与 SF 模块化集成，可构建比端到端 NMT 更可靠、更准确的 KGQA 流水线。