[논문 리뷰] Joint Training of Candidate Extraction and Answer Selection for Reading Comprehension

Zhen Wang, Jiachen Liu외 3명|arXiv (Cornell University)|2018. 05. 16.

Topic Modeling참고 문헌 20인용 수 10

한 줄 요약

이 논문은 다중 문단에서 답변 후보를 먼저 추출한 다음, 모든 후보 간의 정보를 융합하여 최종 답변을 선택하는 공동 학습 프레임워크를 제안한다. 강화 학습을 사용해 추출과 선택을 공동 최적화함으로써 Quasar-T와 SearchQA에서 최신 기술 수준(SOTA) 성능을 달성하였으며, 후보 융합과 공동 학습이 핵심 성과를 이끌었다.

ABSTRACT

While sophisticated neural-based techniques have been developed in reading comprehension, most approaches model the answer in an independent manner, ignoring its relations with other answer candidates. This problem can be even worse in open-domain scenarios, where candidates from multiple passages should be combined to answer a single question. In this paper, we formulate reading comprehension as an extract-then-select two-stage procedure. We first extract answer candidates from passages, then select the final answer by combining information from all the candidates. Furthermore, we regard candidate extraction as a latent variable and train the two-stage process jointly with reinforcement learning. As a result, our approach has improved the state-of-the-art performance significantly on two challenging open-domain reading comprehension datasets. Further analysis demonstrates the effectiveness of our model components, especially the information fusion of all the candidates and the joint training of the extract-then-select procedure.

연구 동기 및 목표

• 기존 독해 모델이 답변 예측을 독립적으로 다루며 답변 후보 간 관계를 忽시하는 한계를 해결하기 위해.
• 오픈 도메인 독해를 두 단계 과정으로 모델링하기 위해: 후보 추출 → 모든 후보의 정보를 활용한 답변 선택.
• 다양한 문단에서 추출한 다수의 후보 표현을 융합하여 답변 선택 성능을 향상시키기 위해.
• 후보 추출을 잠재 변수로 간주하고, 강화 학습을 통해 추출 및 선택 단계를 공동으로 학습하여 종단 간 성능을 최적화하기 위해.
• 복잡한 다중 문단 오픈 도메인 QA에서 정보 융합과 공동 학습의 필요성과 효과를 입증하기 위해.

제안 방법

• 신경 추출 모델을 사용해 문단에서 답변 후보를 먼저 추출하고, 이후 선택 모델을 통해 최종 답변을 선택하는 두 단계 과정으로 독해를 공식화한다.
• 모든 추출된 후보의 표현을 융합하기 위해 주의 기반 상관관계 행렬을 도입하여 후보 간 상호 정보 교류를 가능하게 한다.
• 후보 추출을 잠재 변수로 간주하고, 종단 간 성능 최적화를 위해 강화 학습을 통해 추출 및 선택 모델을 공동으로 학습한다.
• 선택 모델을 최적화하기 위해 종단 답변 예측의 피드백을 기반으로 정책 기반 강화 학습 방법을 사용한다.
• 융합된 후보 표현을 조건으로 삼아 선택 단계에서 답변 스파이크 예측을 위한 포인터 네트워크를 활용한다.
• 공동 학습 목표를 통해 추출 모델이 후속 선택 성능를 고려하도록 유도한다.

실험 결과

연구 질문

• RQ1 다른 문단에서 추출한 다수의 답변 후보로부터의 정보 융합이 오픈 도메인 독해에서 답변 선택 성능을 향상시키는가?
• RQ2 강화 학습을 통한 후보 추출과 답변 선택의 공동 학습이 별도 학습보다 성능을 향상시키는가?
• RQ3 추출된 후보 수가 최종 답변 선택 정확도에 어떤 영향을 미치는가?
• RQ4 개별 후보 표현 대비 융합된 후보 표현의 기여도는 어떠한가?
• RQ5 오픈 도메인 환경에서는 종단 간 답변 예측보다 추출-선택 두 단계 프레임워크가 더 효과적인가?

주요 결과

• 제안된 방법은 Quasar-T와 SearchQA라는 두 오픈 도메인 독해 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하며 이전 방법들을 능가한다.
• 융합된 후보 표현을 제거할 경우 Quasar-T에서 성능이 약 8% 감소함을 확인하여, 정확한 답변 선택에 있어 이 요소의 결정적 역할을 입증한다.
• 강화 학습을 통한 공동 학습은 성능을 크게 향상시키며, 두 단계를 함께 최적화할 경우 별도 학습보다 더 나은 결과를 얻을 수 있음을 보여준다.
• K=2 또는 K=3 후보를 사용할 경우 K=1보다 성능이 뛰어나지만, K를 더 늘려도 성능 향상이 없음을 확인하여 후보 품질과 선택 복잡도 사이의 상충 관계를 확인한다.
• 주의 맵 시각화 결과, 특히 P7과 P10에서의 "Cuba Libre" 후보 간 상호작용이 정답 예측을 가능하게 하여 모델의 추론 과정을 검증한다.