[論文レビュー] Guessing What's Plausible But Remembering What's True: Accurate Neural Reasoning for Question-Answering

Haitian Sun, Andrew O. Arnold+3 more|arXiv (Cornell University)|Apr 7, 2020

Topic Modeling被引用数 2

ひとこと要約

本論文は、埋め込みトリプル上のニューラルリtrieバルと、特定の事実を記憶するコンパクトなスケッチ構造を組み合わせた、新しいKB埋め込み方式を提案する。これにより、質問応答における正確な論理的推論が可能になる。本手法は、妥当な推論と論理的含意された真実を区別することで、2つのKBQAベンチマークで最先端の性能を達成した。

ABSTRACT

Neural approaches to natural language processing (NLP) often fail at the logical reasoning needed for deeper language understanding. In particular, neural approaches to reasoning that rely on embedded \emph{generalizations} of a knowledge base (KB) implicitly model which facts that are \emph{plausible}, but may not model which facts are \emph{true}, according to the KB. While generalizing the facts in a KB is useful for KB completion, the inability to distinguish between plausible inferences and logically entailed conclusions can be problematic in settings like as KB question answering (KBQA). We propose here a novel KB embedding scheme that supports generalization, but also allows accurate logical reasoning with a KB. Our approach introduces two new mechanisms for KB reasoning: neural retrieval over a set of embedded triples, and memorization of highly specific information with a compact sketch structure. Experimentally, this leads to substantial improvements over the state-of-the-art on two KBQA benchmarks.

研究の動機と目的

• 知識ベース推論におけるニューラルNLPモデルが、妥当な推論と論理的含意された真実を区別できないという限界に対処すること。
• 事実の正確性を保ちつつ一般化をサポートすることができるよう、KB質問応答における論理的推論を改善すること。
• 一般化と真実の事実の正確なリtrieバルを両立できるKB埋め込み方式を開発すること。
• 神経的リtrieバルと特定情報の記憶に用いられるコンパクトなスケッチ構造を統合することで、KBQAのパフォーマンスを向上させること。

提案手法

• 一般化と妥当な推論を支援する、埋め込みトリプル上でのニューラルリtrieバルをサポートする二重メカニズムを導入する。
• 知識ベースからの極めて具体的で真実の事実を記憶するためのコンパクトなスケッチ構造を採用する。
• リtrieバルに基づく推論と記憶された事実を統合することで、論理的一致性と真実の正確性を確保する。
• 一般化と記憶のコンponentsを同時に最適化できる微分可能フレームワークを用いる。
• 論理的含意を保持しつつ、妥当な事実の推論を可能にする知識ベース埋め込みを利用する。
• 関連する事実をリtrieバルし、記憶された真実と照合することで、モデルをKBQAに適用する。

実験結果

リサーチクエスチョン

• RQ1 KB埋め込み方式は、質問応答における一般化と正確な論理的推論の両方をサポートできるか？
• RQ2 ニューラルモデルは、KB推論において妥当な推論と論理的含意された真実をどのように区別できるか？
• RQ3 リtrieバルと記憶の統合が、KBQAのパフォーマンスをどの程度向上させるか？
• RQ4 コンパクトなスケッチ構造は、一般化を損なわずに、特定の真実の事実を効果的に保持できるか？

主な発見

• 提案手法は、2つのKBQAベンチマークでSOTAを顕著に上回った。
• ニューラルリtrieバルとスケッチ記憶の統合により、妥当な推論と真実の事実の区別が可能になり、正確な推論が実現した。
• モデルは、推論における一般化と真実の保持のバランスを取ることで、既存の手法を上回った。
• スケッチ構造は、極めて具体的で真実の事実を効果的に捉え、リtrieバルすることで、推論の正確性が向上した。