[논문 리뷰] Supervised and Unsupervised Transfer Learning for Question Answering

Yu-An Chung, Hung-yi Lee외 1명|arXiv (Cornell University)|2017. 11. 14.

Multimodal Machine Learning Applications참고 문헌 39인용 수 11

한 줄 요약

이 논문은 감독 학습 및 비감독 학습을 통한 미세조정을 통해 MovieQA에서의 전이 학습이 두 개의 타겟 질의 응답 데이터셋—TOEFL 청취 이해 및 MCTest—에서 성능을 크게 향상시킴을 보여준다. QACNN 모델은 TOEFL에서 이전 최고 성능보다 7% 향상된 최첨단 성능을 달성하였고, 반복적 자기 레이블링을 통한 비감독 전이 학습조차도 타겟 레이블이 없더라도 상당한 성능 향상을 이끌어냈다.

ABSTRACT

Although transfer learning has been shown to be successful for tasks like object and speech recognition, its applicability to question answering (QA) has yet to be well-studied. In this paper, we conduct extensive experiments to investigate the transferability of knowledge learned from a source QA dataset to a target dataset using two QA models. The performance of both models on a TOEFL listening comprehension test (Tseng et al., 2016) and MCTest (Richardson et al., 2013) is significantly improved via a simple transfer learning technique from MovieQA (Tapaswi et al., 2016). In particular, one of the models achieves the state-of-the-art on all target datasets; for the TOEFL listening comprehension test, it outperforms the previous best model by 7%. Finally, we show that transfer learning is helpful even in unsupervised scenarios when correct answers for target QA dataset examples are not available.

연구 동기 및 목표

• 원천 QA 데이터셋(MovieQA)의 지식이 광범위한 재학습 없이도 타겟 QA 데이터셋의 성능을 향상시킬 수 있는지 조사하기 위해.
• 타겟 도메인에서 레이블이 부족한 저자원 환경에서 전이 학습의 효과를 평가하기 위해.
• 타겟 예시에 대한 정답 레이블이 제공되지 않는 비감독 전이 학습을 탐색하기 위해.
• 전이 학습이 다양한 질문 유형에 따라 모델의 주의 메커니즘과 추론 방식에 어떤 영향을 미치는지 분석하기 위해.
• 감독 미세조정 외에도 다양한 QA 작업 및 데이터셋 간에 전이 학습이 일반화되는지 검증하기 위해.

제안 방법

• MovieQA 데이터셋에서 일반적인 질의 응답 표현을 학습하기 위해 QACNN 및 MemN2N 두 모델을 사전 학습한다.
• 정답 레이블을 사용한 감독 학습을 통해 사전 학습된 모델을 타겟 데이터셋(TOEFL 및 MCTest)에서 미세조정한다.
• 모델이 타겟 데이터에 대한 의사 레이블을 생성하면서 미세조정하는 반복적 자기 레이블링 메커니즘을 사용해 비감독 전이 학습을 구현한다.
• 비감독 미세조정 중에 단어 임베딩, CNN 레이어, 완전 연결 레이어를 포함한 모든 모델 파라미터를 업데이트한다.
• 학습 에포크 동안 주의 맵을 시각화하여 모델의 집중 방식이 관련 스토리 내용으로 어떻게 진화하는지 분석한다.
• 두 단계 학습 과정을 사용한다: MovieQA에서의 사전 학습 후, 진짜 레이블에 접근할 수 없이 타겟 데이터셋에서 반복적 자기 레이블링을 수행한다.

실험 결과

연구 질문

• RQ1 MovieQA에서의 전이 학습이 TOEFL 및 MCTest와 같은 저자원 QA 데이터셋에서 성능을 크게 향상시킬 수 있는가?
• RQ2 타겟 데이터셋에 정답 레이블이 전혀 없을 경우 비감독 전이 학습의 효과는 어떠한가?
• RQ3 전이 학습은 다양한 질문 유형 전반에서 성능 향상을 이끌어내는가, 아니면 특정 질문 유형에 국한되는가?
• RQ4 비감독 전이 학습 중 모델의 주의 메커니즘이 어떻게 진화하는가? 그리고 관련 스토리 내용과 일치하는가?
• RQ5 비감독 전이 학습에서 반복적 자기 레이블링이 감독 미세조정 수준의 성능 향상을 이끌 수 있는가?

주요 결과

• MovieQA에서의 감독 학습 전이 학습이 TOEFL 및 MCTest 양쪽 모두에서 성능 향상을 이끌었으며, 한 모델이 모든 타겟 데이터셋에서 최첨단 성능을 달성했다.
• TOEFL 청취 이해 시험에서 가장 우수한 모델은 이전 최첨단 성능보다 7% 높은 성능을 기록하여 상당한 성능 향상을 입증했다.
• 진짜 레이블에 접근할 수 없음에도 불구하고 반복적 자기 레이블링을 통한 비감독 전이 학습이 MC500에서 최대 6%, TOEFL-ASR에서 최대 5%의 성능 향상을 이끌었다.
• 주의 시각화 결과 모델이 학습 에포크 동안 점차 '클래스 프로젝트'와 같은 관련 스토리 어휘에 집중하는 경향을 보였으며, 이는 비감독 환경에서도 효과적인 학습이 이루어졌음을 시사한다.
• 비감독 전이 학습의 성능는 감독 전이 학습보다 항상 열등했지만, 처음부터 학습하는 것보다는 상당히 뛰어난 성능을 보였다.
• 전이 학습의 효과는 특정 질문 유형에 국한되지 않았으며, 데이터셋 내 다양한 질문 유형 전반에서 성능 향상이 관찰되었다.