[論文レビュー] Question Answering over Knowledge Bases by Leveraging Semantic Parsing and Neuro-Symbolic Reasoning.

Pavan Kapanipathi, Ibrahim Abdelaziz+28 more|arXiv (Cornell University)|Dec 3, 2020

Topic Modeling参考文献 54被引用数 26

ひとこと要約

本論文では、抽象的意味表現（AMR）を用いた意味解析、AMRから論理クエリを生成するパスベース手法、知識ベース上で推論を行う論理的ニューラルネットワーク（LNN）を用いる神経記号的質問応答システムNSQAを提案する。モジュラーでタスクに依存しないアーキテクチャであり、エンドツーエンドの訓練を必要とせず、QALD-9およびLC-QuAD 1.0で最先端の性能を達成している。

ABSTRACT

Knowledge base question answering (KBQA) is an important task in Natural Language Processing. Existing approaches face significant challenges including complex question understanding, necessity for reasoning, and lack of large training datasets. In this work, we propose a semantic parsing and reasoning-based Neuro-Symbolic Question Answering(NSQA) system, that leverages (1) Abstract Meaning Representation (AMR) parses for task-independent question under-standing; (2) a novel path-based approach to transform AMR parses into candidate logical queries that are aligned to the KB; (3) a neuro-symbolic reasoner called Logical Neural Net-work (LNN) that executes logical queries and reasons over KB facts to provide an answer; (4) system of systems approach,which integrates multiple, reusable modules that are trained specifically for their individual tasks (e.g. semantic parsing,entity linking, and relationship linking) and do not require end-to-end training data. NSQA achieves state-of-the-art performance on QALD-9 and LC-QuAD 1.0. NSQA's novelty lies in its modular neuro-symbolic architecture and its task-general approach to interpreting natural language questions.

研究の動機と目的

• 知識ベース質問応答（KBQA）における複雑な質問理解と推論の課題に対処すること。
• KBQAシステムに必要な大規模なエンドツーエンド訓練データの不足を克服すること。
• 意味解析、エンティティリンク、関係リンクを再利用可能なコンponentsに分離する、タスクに依存しないモジュラーなアプローチを開発すること。
• AMR解析から導かれる論理クエリと神経記号実行を統合することで、知識ベース上の推論を改善すること。
• エンドツーエンドのファインチューニングを必要とせず、ベンチマーク用KBQAデータセットで最先端の性能を達成すること。

提案手法

• タスクに依存しない自然言語質問の理解を可能にするために、抽象的意味表現（AMR）解析を用いる。
• 新しいパスベース手法を適用して、AMR解析を知識ベーススキーマに一致する候補となる論理クエリに変換する。
• 論理的ニューラルネットワーク（LNN）を神経記号的推論器として採用し、論理クエリを実行してKBの事実から答えを推論する。
• 意味解析、エンティティリンク、関係リンクの各モジュールを別々に訓練した独立したモジュールを統合する、システムのシステムアーキテクチャを設計する。
• 各モジュールをその固有のタスクで訓練することでエンドツーエンド訓練を回避し、モularityと再利用性を向上させる。
• パス抽出と論理クエリ生成を通じて、AMRから導かれるクエリとKBスキーマを一致させ、正確な推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 モジュラーで神経記号的なアーキテクチャは、エンドツーエンドの訓練データがなくてもKBQAの性能を向上させることができるか？
• RQ2 AMR解析は、KBQAにおけるタスクに依存しない質問理解をどの程度効果的に支援できるか？
• RQ3 AMR解析を論理クエリに変換するパスベース手法は、推論の正確性をどの程度向上させるか？
• RQ4 論理的ニューラルネットワーク（LNN）は、知識ベース上で論理クエリを効果的に実行し、正確な答えを導けるか？
• RQ5 システムのシステム設計は、標準的なKBQAベンチマークで最先端の性能を達成できるか？

主な発見

• NSQAはQALD-9ベンチマークで最先端の性能を達成し、質問応答の正確性において先行手法を上回っている。
• LC-QuAD 1.0ベンチマークでも最先端の結果を達成しており、多様な質問タイプにわたる強力な一般化性能を示している。
• モジュラー設計により、意味解析、エンティティリンク、関係リンクなどのコンponentの高レベルな再利用性と独立した訓練が可能である。
• AMR解析の使用により、タスク固有のファインチューニングなしに、タスクに依存しない堅牢な質問理解が可能である。
• パスベースのクエリ生成手法は、自然言語質問を知識ベーススキーマに一致する実行可能な論理クエリに効果的にマッピングしている。
• LNNの統合により、KB事実上で信頼性の高い神経記号的推論が可能になり、論理的一致性を通じて答えの正確性が向上している。