[논문 리뷰] Neural Skill Transfer from Supervised Language Tasks to Reading Comprehension

Todor Mihaylov, Zornitsa Kozareva외 1명|arXiv (Cornell University)|2017. 11. 10.

Topic Modeling참고 문헌 34인용 수 5

한 줄 요약

이 논문은 간단한 질문-답변 모델에 사전 훈련된 지도 학습 언어 작업—예를 들어 명명된 실체 인식(NER), 텍스트 함의, 동의어 탐지, 질문 유형 분류—에서의 지식을 통합함으로써 독해력 향상을 위한 신경 기술 전이 기법을 제안한다. 이 방법은 토큰 단위 레이블 지도 학습과 기술 인코더의 미세조정을 통해 토큰 단위 레이블 지도 학습과 기술 인코더의 미세조정을 통해 초기 훈련 단계와 제한된 데이터에서 뚜렷한 성능 향상을 이룬다. 기존의 기술 전이 없이 훈련된 기준 모델보다 뛰어난 성능을 보였다.

ABSTRACT

Reading comprehension is a challenging task in natural language processing and requires a set of skills to be solved. While current approaches focus on solving the task as a whole, in this paper, we propose to use a neural network `skill' transfer approach. We transfer knowledge from several lower-level language tasks (skills) including textual entailment, named entity recognition, paraphrase detection and question type classification into the reading comprehension model. We conduct an empirical evaluation and show that transferring language skill knowledge leads to significant improvements for the task with much fewer steps compared to the baseline model. We also show that the skill transfer approach is effective even with small amounts of training data. Another finding of this work is that using token-wise deep label supervision for text classification improves the performance of transfer learning.

연구 동기 및 목표

• 종합적인 엔드 투 엔드 훈련이 아닌, 하위 수준의 지도 학습 언어 작업에서의 지식 전이를 통해 독해력 성능 향상을 도모하기 위해.
• NER, 텍스트 함의, 질문 유형 분류와 같은 사전 훈련된 '기술'이 단순한 QA 모델에 어떻게 기여하는지 조사하기 위해.
• 특히 소규모 훈련 데이터 세트(2%, 5%, 10%, 25%)에서 기술 전이가 훈련 효율성과 데이터 효율성에 어떤 영향을 미치는지 평가하기 위해.
• 질문-답변를 위한 전이 학습에서 토큰 단위 레이블 지도 학습과 문장 단위 지도 학습 간의 성능 차이를 분석하기 위해.
• 독해력 향상에 기여하는 특정 언어 기술이 무엇인지 분석할 수 있는 모듈식이고 해석 가능한 프레임워크를 제공하기 위해.

제안 방법

• NER(CoNLL 2012), 텍스트 함의(SNLI), 동의어 탐지(PPDB), 질문 유형 분류(TREC)의 네 가지 언어 기술에 대해 각각 별도의 Bi-LSTM 인코더를 레이블이 부여된 데이터셋에서 훈련한다.
• 각 기술 작업에서 훈련된 컨텍스트 인코더 가중치를 단순 독해력 모델의 컨텍스트 인코더 초기화에 재사용한다.
• QA 모델 전반에 걸쳐 컨텍스트 인코더 가중치를 공유함으로써 전체 아키텍처를 다시 훈련하지 않고도 지식 전이가 가능하도록 기술 표현을 통합한다.
• 텍스트 분류 작업에 대해 토큰 단위 레이블 지도 학습을 적용하며, 각 토큰의 표현을 레이블 공간으로 투영하고 문장 수준 예측을 도출하기 위해 합산한다.
• QA 훈련 중에 기술 인코더 가중치를 미세조정하여 목표 작업에 적응시키며, 동시에 동결된 가중치를 사용한 성능도 평가한다.
• SQuAD 개발 세트에서 F1 점수와 정확도 매칭(EM) 지표를 사용해 전체 데이터 및 감소된 데이터 훈련 환경을 비교 평가한다.

실험 결과

연구 질문

• RQ1 여러 지도 학습 언어 작업에서의 지식 전이가 표준 기준 모델 대비 독해력 성능 향상에 기여하는가?
• RQ2 기술 전이가 초기 훈련 단계에서 훈련 동역학에 어떤 영향을 미치는가?
• RQ3 소규모 훈련 데이터(예: 2%, 5%)만 사용할 경우 기술 전이가 성능 향상에 얼마나 기여하는가?
• RQ4 텍스트 분류 작업에서 토큰 단위 레이블 지도 학습이 문장 단위 지도 학습보다 전이 성능을 더 높게 만드는가?
• RQ5 개별 기술(NER, TE, PPDB, QC) 중에서 독해력 향상에 가장 기여하는 것은 무엇인가?

주요 결과

• 모든 네 가지 기술 작업을 미세조정한 모델은 SQuAD 개발 세트에서 F1 점수 60.92와 EM 48.70을 기록했으며, 기술 없이 훈련된 기준 모델(F1: 59.41, EM: 46.90)보다 뛰어난 성능을 보였다.
• 훈련 데이터의 2%만 사용하더라도, 기술 전이 모델은 1,000개의 훈련 스텝 이내에 기준 모델이나 무작위 가중치 모델보다 더 높은 성능을 달성했다.
• 질문 유형 분류 작업에서 토큰 단위 레이블 지도 학습이 문장 단위 지도 학습보다 유의미하게 뛰어난 성능을 보였으며, 특히 초기 훈련 단계에서 두드러졌다(그림 4 참조).
• 제거 실험 결과, 어떤 기술도 제거할 경우 성능 저하가 발생했으며, 그 중에서도 NER를 제거했을 때 가장 큰 성능 하락(EM 48.70 → 48.52)이 관찰되어 그 기여도가 높음을 시사했다.
• 모든 기술과 미세조정된 가중치를 가진 모델가 가장 높은 성능을 기록했으며, 이는 다중 기술 전이가 효과적이고 상호 보완적임을 입증했다.
• 초기 훈련 단계에서 일관된 성능 향상이 관찰되어, 기술 전이가 학습 속도를 가속화하고 샘플 효율성을 향상시킨다는 점을 시사했다.