[论文解读] Question Answering over Knowledge Bases by Leveraging Semantic Parsing and Neuro-Symbolic Reasoning.

Pavan Kapanipathi, Ibrahim Abdelaziz+28 more|arXiv (Cornell University)|Dec 3, 2020

Topic Modeling参考文献 54被引用 26

一句话总结

该论文提出NSQA，一种神经符号问答系统，采用抽象意义表示（AMR）进行语义解析，通过基于路径的方法从AMR生成逻辑查询，并利用逻辑神经网络（LNN）对知识库进行推理。该模块化、任务通用的架构在无需端到端训练的情况下，实现了QALD-9和LC-QuAD 1.0上的最先进性能。

ABSTRACT

Knowledge base question answering (KBQA) is an important task in Natural Language Processing. Existing approaches face significant challenges including complex question understanding, necessity for reasoning, and lack of large training datasets. In this work, we propose a semantic parsing and reasoning-based Neuro-Symbolic Question Answering(NSQA) system, that leverages (1) Abstract Meaning Representation (AMR) parses for task-independent question under-standing; (2) a novel path-based approach to transform AMR parses into candidate logical queries that are aligned to the KB; (3) a neuro-symbolic reasoner called Logical Neural Net-work (LNN) that executes logical queries and reasons over KB facts to provide an answer; (4) system of systems approach,which integrates multiple, reusable modules that are trained specifically for their individual tasks (e.g. semantic parsing,entity linking, and relationship linking) and do not require end-to-end training data. NSQA achieves state-of-the-art performance on QALD-9 and LC-QuAD 1.0. NSQA's novelty lies in its modular neuro-symbolic architecture and its task-general approach to interpreting natural language questions.

研究动机与目标

• 解决知识库问答（KBQA）中复杂问题理解与推理的挑战。
• 克服KBQA系统缺乏大规模端到端训练数据的问题。
• 开发一种任务通用的模块化方法，将语义解析、实体链接和关系链接解耦为可重用组件。
• 通过整合基于AMR解析生成的逻辑查询与神经符号执行，提升对知识库的推理能力。
• 在无需端到端微调的情况下，实现在基准KBQA数据集上的最先进性能。

提出的方法

• 利用抽象意义表示（AMR）解析实现对自然语言问题的任务无关理解。
• 应用一种新颖的基于路径的方法，将AMR解析转化为与知识库模式对齐的候选逻辑查询。
• 采用逻辑神经网络（LNN）作为神经符号推理器，执行逻辑查询并从KB事实中推断答案。
• 设计一种系统级架构，集成独立训练的模块，包括语义解析、实体链接和关系链接。
• 通过在每个模块上独立训练其特定任务，避免端到端训练，从而增强模块化和可重用性。
• 通过路径提取和逻辑查询生成，将AMR派生的查询与KB模式对齐，实现精确推理。

实验结果

研究问题

• RQ1 模块化、神经符号架构是否能在无需端到端训练数据的情况下提升KBQA性能？
• RQ2 AMR解析在KBQA中是否能有效支持任务无关的问题理解？
• RQ3 将AMR解析基于路径地转换为逻辑查询，在多大程度上提升了推理准确性？
• RQ4 逻辑神经网络（LNN）是否能有效执行知识库上的逻辑查询以生成准确答案？
• RQ5 系统级设计是否能实现在标准KBQA基准上的最先进性能？

主要发现

• NSQA在QALD-9基准上实现了最先进性能，问答准确率优于先前方法。
• 该系统在LC-QuAD 1.0基准上也实现了最先进结果，展现出在多样化问题类型上的强大泛化能力。
• 模块化设计实现了高度可重用性，并支持语义解析、实体链接和关系链接等组件的独立训练。
• 使用AMR解析实现了稳健的任务无关问题理解，且无需针对特定任务进行微调。
• 基于路径的查询生成方法能有效将自然语言问题映射为与知识库模式对齐的可执行逻辑查询。
• LNN的集成实现了对KB事实的可靠神经符号推理，通过逻辑一致性提升了答案准确性。