[논문 리뷰] UHop: An Unrestricted-Hop Relation Extraction Framework for Knowledge-Based Question Answering

Ziyuan Chen, Chih-Hung Chang외 3명|arXiv (Cornell University)|2019. 04. 02.

Topic Modeling참고 문헌 35인용 수 48

한 줄 요약

UHop은 관계 추출을 단일 홉 예측과 종료 결정으로 분할하는 무제한 홉 프레임워크를 도입하여 홉-프리 최대치를 가능하게 하고 탐색 공간을 줄이면서 최첨단 모델과 경쟁력을 유지합니다.

ABSTRACT

In relation extraction for knowledge-based question answering, searching from one entity to another entity via a single relation is called "one hop". In related work, an exhaustive search from all one-hop relations, two-hop relations, and so on to the max-hop relations in the knowledge graph is necessary but expensive. Therefore, the number of hops is generally restricted to two or three. In this paper, we propose UHop, an unrestricted-hop framework which relaxes this restriction by use of a transition-based search framework to replace the relation-chain-based search one. We conduct experiments on conventional 1- and 2-hop questions as well as lengthy questions, including datasets such as WebQSP, PathQuestion, and Grid World. Results show that the proposed framework enables the ability to halt, works well with state-of-the-art models, achieves competitive performance without exhaustive searches, and opens the performance gap for long relation paths.

연구 동기 및 목표

• 지식 기반 관계 추출에서 고정 홉 제한을 완화하여 길고 미지수 길이의 관계 경로를 다루기 위해.
• 관계 추출을 단일 홉 관계 예측과 종료(정지) 결정으로 분해한다.
• 전이 기반 검색 프레임워크에 통합하여 기존 최첨단 모델과의 호환성을 가능하게 한다.
• 성능 저하 없이 탐색 공간을 지수적으로에서 다항식으로 축소시킨다.

제안 방법

• 두 가지 하위 작업 프레임워크: (i) 후보 바깥 방향 관계의 쌍별 분류를 통한 단일 홉 관계 추출; (ii) 점수를 기반으로 언제 중단할지 결정하는 비교 종료 결정.
• 선택된 관계를 따라 주제 엔티티에서 탐색하는 탐욕스러운 전이 기반 검색으로 각 홉에서 현재 엔티티와 후보 집합을 업데이트한다.
• 현재 홉 점수를 외부 옵션과 비교하여 계속할지 중단할지 결정하는 종료 결정의 사용.
• 다음 홉에 대한 관련 정보를 중점으로 다루기 위해 선택된 각 관계와 함께 업데이트되는 동적 질문 표현.
• 결합 손실을 통한 관계 추출과 종료 결정의 공동 엔드-투-엔드 학습.

실험 결과

연구 질문

• RQ1 미리 정의된 최대 홉 수 없이도 무제한 홉 프레임워크가 KBQA에서 경쟁력 있는 성능을 달성할 수 있는가?
• RQ2 종료 결정이 있는 전이 기반 검색이 실질적이고 긴 경로 질문에서도 정확도를 유지하면서 탐색 공간을 효과적으로 줄이는가?
• RQ3 다중 홉 질문에서 동적 질문 표현이 관계 추출과 종료 결정에 어떤 영향을 미치는가?

주요 결과

• 프레임워크 내에서 사용될 때 UHop은 최첨단 모델과 경쟁력 있는 결과를 낳고 고정 홉 제한의 필요성을 제거한다.
• UHop으로 탐색 공간은 대략 n(n-1)^(L-1)에서 약 n(L+1)로 감소하고, 실험은 WebQSP에서 후보 관계가 약 30% 감소하였음을 보여준다.
• WebQSP(1–2 홉) 및 PathQuestion/PQL(2–3 홉) 데이터셋에서 UHop 내의 HR-BiLSTM과 ABWIM은 독립 실행형 버전과 비슷하게 성능을 보이고 여러 베이스라인보다 우수하다.
• Grid World 실험은 기본 모델이 무제한 홉 프레임워크가 없으면 어려워하는 최대 10홉까지의 긴 경로 추론을 UHop이 가능하게 한다는 것을 보여준다.
• 동적 질문 표현(+DQ)은 일반적으로 PQ/PQL 데이터셋에서 관계 추출을 개선하고 특히 첫 홉에서 유의하며, UHop 내에서 공동으로 학습될 때 종료 결정에도 도움을 준다.