[논문 리뷰] Improved Neural Relation Detection for Knowledge Base Question Answering

Mo Yu, Wenpeng Yin외 4명|arXiv (Cornell University)|2017. 04. 20.

Topic Modeling참고 문헌 27인용 수 53

한 줄 요약

본 논문은 KB 관계 탐지를 위한 계층적 잔차 BiLSTM 모델인 HR-BiLSTM을 소개하고, 이를 통해 SimpleQuestions와 WebQSP에서 최첨단 성능을 달성하며 단순한 KBQA 시스템의 성능도 향상시킨다는 것을 보여준다.

ABSTRACT

Relation detection is a core component for many NLP applications including Knowledge Base Question Answering (KBQA). In this paper, we propose a hierarchical recurrent neural network enhanced by residual learning that detects KB relations given an input question. Our method uses deep residual bidirectional LSTMs to compare questions and relation names via different hierarchies of abstraction. Additionally, we propose a simple KBQA system that integrates entity linking and our proposed relation detector to enable one enhance another. Experimental results evidence that our approach achieves not only outstanding relation detection performance, but more importantly, it helps our KBQA system to achieve state-of-the-art accuracy for both single-relation (SimpleQuestions) and multi-relation (WebQSP) QA benchmarks.

연구 동기 및 목표

• KBQA에서 크고 개방적이며 보이지 않는 관계의 도전에 대응한다.
• 많은 관계는 물론 보이지 않는 관계까지 일반화 가능한 관계 탐지 모델을 개발한다.
• 간단한 KBQA 파이프라인과 관계 탐지기를 통합하여 최종 태스크 정확도를 향상시킨다.

제안 방법

• 단어 수준과 관계 수준의 표현으로 관계를 나타내고 이를 계층적 매칭으로 결합한다.
• 다중 추상화 수준에서 질문을 인코딩하기 위해 깊은 BiLSTM을 사용한다.
• 효과적인 계층적 매칭을 가능하게 하기 위해 BiLSTM 층 사이에 잔차 연결을 도입한다(HR-BiLSTM).
• 정답 관계를 음수와 구분하도록 랭킹 손실로 학습한다.
• 엔티티 재랭킹 및 코어 체인 탐지를 포함하는 두 단계 KBQA 파이프라인에 관계 탐지기를 통합한다.

실험 결과

연구 질문

• RQ1 수천 개의 KB 관계를 포함하여 보이지 않는 관계까지 관계 탐지가 일반화되려면 어떻게 해야 하는가?
• RQ2 잔차 학습이 서로 다른 추상화 수준에서의 질문-관계 정렬을 개선할 수 있는가?
• RQ3 관계 이름과 단어 수준 표현을 모두 도입하면 KBQA의 엔드-투-엔드 성능이 개선되는가?
• RQ4 관계 탐지가 KBQA에서 엔티티 재랭킹 및 코어 체인 추출에 어떤 영향을 미치는가?

주요 결과

• HR-BiLSTM은 SimpleQuestions와 WebQSP의 관계 탐지 작업에서 기준모형보다 2–3个百分点 높은 성능을 보였다.
• 잔차 학습이 계층 간 naïve 합성보다 성능을 향상시키며, 특히 WebQSP에서 더 큰 이점을 보였다.
• 관계 이름과 단어 수준 관계 표현을 함께 사용하는 것이 각각을 단독으로 사용할 때보다 더 나은 성능을 보였고, SimpleQuestions에서 특히 큰 이점을 보였다.
• 관계 탐지와 엔티티 재랭킹을 포함하는 두 단계 KBQA가 SimpleQuestions에서 최첨단 성능을 달성하고 WebQSP에서도 경쟁력 있는 결과를 보였다.
• 다중 탐지기 앙상블은 SimpleQuestions의 성능을 더욱 향상시킨다."