[논문 리뷰] Guessing What's Plausible But Remembering What's True: Accurate Neural Reasoning for Question-Answering

Haitian Sun, Andrew O. Arnold외 3명|arXiv (Cornell University)|2020. 04. 07.

Topic Modeling인용 수 2

한 줄 요약

이 논문은 임베딩된 삼중항에 대한 신경망 검색과 특정 사실을 기억하기 위한 컴act한 스케치 구조를 결합하는 새로운 지식 그래프 임베딩 기법을 제안한다. 이는 질문에 대한 답변에서 정확한 논리적 추론을 가능하게 하며, 두 개의 지식 기반 질문 응답(KBQA) 벤치마크에서 최신 기술(SOTA) 성능을 달성한다. 이는 타당한 추론과 논리적으로 함의된 진리 사이를 구분함으로써 달성된다.

ABSTRACT

Neural approaches to natural language processing (NLP) often fail at the logical reasoning needed for deeper language understanding. In particular, neural approaches to reasoning that rely on embedded \emph{generalizations} of a knowledge base (KB) implicitly model which facts that are \emph{plausible}, but may not model which facts are \emph{true}, according to the KB. While generalizing the facts in a KB is useful for KB completion, the inability to distinguish between plausible inferences and logically entailed conclusions can be problematic in settings like as KB question answering (KBQA). We propose here a novel KB embedding scheme that supports generalization, but also allows accurate logical reasoning with a KB. Our approach introduces two new mechanisms for KB reasoning: neural retrieval over a set of embedded triples, and memorization of highly specific information with a compact sketch structure. Experimentally, this leads to substantial improvements over the state-of-the-art on two KBQA benchmarks.

연구 동기 및 목표

• 지식 기반 추론에서 신경망 자연어 처리(NLP) 모델이 타당한 추론과 논리적으로 함의된 진리 사이를 구분하는 데에 한계가 있음을 해결하기 위해.
• 일반화 능력을 유지하면서도 사실 정확성을 유지함으로써 지식 기반 질문 응답(KBQA)의 논리적 추론 능력을 향상시키기 위해.
• 일반화와 참된 사실의 정확한 검색을 모두 지원하는 지식 기반 임베딩 기법을 개발하기 위해.
• 특정 정보를 기억하기 위한 신경망 검색과 컴act한 스케치 구조를 통합함으로써 지식 기반 질문 응답(KBQA) 성능을 향상시키기 위해.

제안 방법

• 일반화와 타당한 추론을 지원하기 위해 임bedded 삼중항에 대한 신경망 검색을 수행하는 이중 메커니즘을 도입한다.
• 지식 기반에서 매우 구체적이고 참인 사실을 기억하기 위해 컴act한 스케치 구조를 활용한다.
• 검색 기반 추론과 기억된 사실을 결합하여 논리적 일관성과 진리 정확도를 확보한다.
• 일반화 및 기억 구성 요소를 동시에 최적화할 수 있는 미분 가능한 프레임워크를 사용한다.
• 논리적 함의를 유지하면서도 타당한 사실에 대한 추론을 允許하는 지식 기반 임베딩을 활용한다.
• 관련 사실을 검색하고 기억된 진리와 대조하여 모델을 지식 기반 질문 응답(KBQA)에 적용한다.

실험 결과

연구 질문

• RQ1 지식 기반 임베딩 기법이 질문 응답에서 일반화와 정확한 논리적 추론을 동시에 지원할 수 있는가?
• RQ2 신경망 모델은 지식 기반 추론에서 타당한 추론과 논리적으로 함의된 진리 사이를 어떻게 구분할 수 있는가?
• RQ3 검색과 기억의 조합이 지식 기반 질문 응답(KBQA) 성능을 얼마나 향상시키는가?
• RQ4 컴act한 스케치 구조는 일반화 능력을 훼손하지 않고 특정 진리 사실을 효과적으로 유지할 수 있는가?

주요 결과

• 제안된 방법은 두 개의 지식 기반 질문 응답(KBQA) 벤치마크에서 최신 기술(SOTA)을 상당히 초월한다.
• 신경망 검색과 스케치 기억의 통합은 타당한 추론과 참인 사실 사이의 구분을 통해 정확한 추론을 가능하게 한다.
• 모델은 추론에서 일반화와 진리 보존의 균형을 유지함으로써 기존 접근 방식을 능가한다.
• 스케치 구조는 매우 구체적이고 참인 사실을 효과적으로 캡처하고 검색하여 추론 정확도를 향상시킨다.