[论文解读] Guessing What's Plausible But Remembering What's True: Accurate Neural Reasoning for Question-Answering

Haitian Sun, Andrew O. Arnold+3 more|arXiv (Cornell University)|Apr 7, 2020

Topic Modeling被引用 2

一句话总结

本文提出了一种新颖的知识库嵌入方案，结合嵌入三元组的神经检索与紧凑的草图结构以记忆特定事实，从而在问答中实现准确的逻辑推理。通过区分合理推断与逻辑蕴含的真理，该方法在两个KBQA基准上达到了最先进性能。

ABSTRACT

Neural approaches to natural language processing (NLP) often fail at the logical reasoning needed for deeper language understanding. In particular, neural approaches to reasoning that rely on embedded \emph{generalizations} of a knowledge base (KB) implicitly model which facts that are \emph{plausible}, but may not model which facts are \emph{true}, according to the KB. While generalizing the facts in a KB is useful for KB completion, the inability to distinguish between plausible inferences and logically entailed conclusions can be problematic in settings like as KB question answering (KBQA). We propose here a novel KB embedding scheme that supports generalization, but also allows accurate logical reasoning with a KB. Our approach introduces two new mechanisms for KB reasoning: neural retrieval over a set of embedded triples, and memorization of highly specific information with a compact sketch structure. Experimentally, this leads to substantial improvements over the state-of-the-art on two KBQA benchmarks.

研究动机与目标

• 为解决神经NLP模型在知识库推理中难以区分合理推断与逻辑蕴含真理的局限性。
• 通过在保持泛化能力的同时保留事实准确性，提升KB问答中的逻辑推理能力。
• 开发一种支持泛化与精确检索真实事实的知识库嵌入方案。
• 通过整合神经检索与紧凑草图结构以记忆特定信息，提升KBQA性能。

提出的方法

• 引入双机制：在一组嵌入三元组上进行神经检索，以支持泛化与合理推断。
• 采用紧凑的草图结构记忆知识库中的高度特定真实事实。
• 结合基于检索的推理与记忆事实，确保逻辑一致性和真实准确性。
• 使用可微分框架联合优化泛化与记忆组件。
• 利用保留逻辑蕴含关系的知识库嵌入，同时允许对合理事实进行推理。
• 通过检索相关事实并对照记忆的真理验证，将模型应用于KBQA。

实验结果

研究问题

• RQ1 知识库嵌入方案能否在问答中同时支持泛化与准确的逻辑推理？
• RQ2 神经模型如何在KB推理中区分合理推断与逻辑蕴含的真理？
• RQ3 将检索与记忆相结合能在多大程度上提升KBQA性能？
• RQ4 紧凑草图结构能否在不损害泛化能力的前提下有效保存特定真实事实？

主要发现

• 所提方法在两个KBQA基准上显著超越了最先进水平。
• 神经检索与草图记忆的结合通过区分合理推断与真实事实，实现了准确推理。
• 该模型通过在推理中平衡泛化与真实保持，优于现有方法。
• 草图结构有效捕捉并检索高度特定的真实事实，从而提升推理准确性。