[论文解读] Leveraging Abstract Meaning Representation for Knowledge Base Question Answering

Pavan Kapanipathi, Ibrahim Abdelaziz+28 more|arXiv (Cornell University)|Dec 3, 2020

Topic Modeling参考文献 30被引用 9

一句话总结

本文提出了神经符号问答（NSQA），一种模块化的知识库问答（KBQA）系统，利用抽象意义表示（AMR）实现鲁棒、与任务无关的问题理解。通过基于路径的图转换将AMR解析转化为与知识库对齐的逻辑查询，并采用独立训练的模块化流水线（包括语义解析器、实体/链接抽取器以及逻辑神经网络），NSQA在无需端到端训练数据的情况下，于QALD-9和LC-QuAD 1.0基准上取得了最先进性能。

ABSTRACT

Knowledge base question answering (KBQA)is an important task in Natural Language Processing. Existing approaches face significant challenges including complex question understanding, necessity for reasoning, and lack of large end-to-end training datasets. In this work, we propose Neuro-Symbolic Question Answering (NSQA), a modular KBQA system, that leverages (1) Abstract Meaning Representation (AMR) parses for task-independent question understanding; (2) a simple yet effective graph transformation approach to convert AMR parses into candidate logical queries that are aligned to the KB; (3) a pipeline-based approach which integrates multiple, reusable modules that are trained specifically for their individual tasks (semantic parser, entity andrelationship linkers, and neuro-symbolic reasoner) and do not require end-to-end training data. NSQA achieves state-of-the-art performance on two prominent KBQA datasets based on DBpedia (QALD-9 and LC-QuAD1.0). Furthermore, our analysis emphasizes that AMR is a powerful tool for KBQA systems.

研究动机与目标

• 解决KBQA中复杂问题理解与推理的挑战，且不依赖大规模端到端训练数据集。
• 通过在中间语义表示上解耦问题理解与知识库查询，减少错误传播并提升模块化程度。
• 利用AMR解析的进展，提升对改写和复杂句式结构的泛化能力与鲁棒性。
• 通过构建与知识库对齐的中间逻辑形式，实现神经符号推理。
• 开发可复用的模块化流水线，支持语义解析、实体链接和关系链接等组件的独立训练。

提出的方法

• 利用最先进的AMR解析技术，将自然语言问题转换为表示语义概念与关系的有根、有向、无环图。
• 应用一种新颖的基于路径的图转换方法，将AMR图转化为与知识库对齐的候选逻辑查询，利用概念之间的路径作为查询模板。
• 采用流水线架构，包含独立的、任务特定的模块：用于AMR的语义解析器、将概念映射到知识库实体的实体与关系链接器，以及用于神经符号推理的逻辑神经网络（LNN）。
• 利用LNN对知识库事实进行推理，并基于生成的逻辑查询生成答案，实现透明、可解释的推理过程。
• 通过独立训练每个模块来避免端到端训练，每个模块仅在其特定子任务上进行训练。
• 引入一种基于AMR路径的中间逻辑形式，以连接语义含义与知识库查询结构，促进与神经符号推理器的集成。

实验结果

研究问题

• RQ1 AMR解析能否作为KBQA的鲁棒、与任务无关的基础，从而减少对端到端训练数据的依赖？
• RQ2 将AMR图基于路径的转换为与知识库对齐的逻辑查询，在支持复杂、复合推理方面效果如何？
• RQ3 在多跳问题上，采用独立训练组件的模块化流水线方法在KBQA中能否显著优于端到端模型？
• RQ4 AMR的使用能否提升KBQA对改写或结构复杂问题的泛化能力？
• RQ5 中间表示的选择（AMR → 逻辑形式）如何影响KBQA系统的准确率与可解释性？

主要发现

• NSQA在两个主流的DBpedia知识库问答基准（QALD-9和LC-QuAD 1.0）上实现了最先进性能。
• AMR Smatch分数提升1.4%带来了系统整体性能1.2%的绝对提升，证明了AMR质量对KBQA的直接影响。
• 由于AMR提供的规范化语义表示，系统对改写和复杂句式具有强鲁棒性。
• 从AMR到逻辑查询的基于路径的转换在捕捉复合语义与支持多跳推理方面非常有效。
• 模块化设计使得各组件可独立训练，无需大规模端到端的文本到SPARQL配对标注数据。
• 使用逻辑神经网络实现了对知识库事实的透明、符号化推理，提升了可解释性与鲁棒性。