[논문 리뷰] An Embarrassingly Simple Approach for Transfer Learning from Pretrained Language Models

Alexandra Chronopoulou, Christos Baziotis외 1명|arXiv (Cornell University)|2019. 02. 27.

Topic Modeling참고 문헌 33인용 수 19

한 줄 요약

이 논문은 사전 훈련된 언어 모델을 텍스트 분류에 맞추기 위해 작업별 손실과 점차 감쇠되는 보조 언어 모델링 손실을 조합하는 단순하면서도 효과적인 전이 학습 방법인 SiATL을 제안한다. 이 방법은 치명적인 잊음 현상을 방지하고, 다양한 정서 분석 및 텍스트 분류 작업에서 최신 기술 수준의 성능을 달성하며, 제한된 훈련 데이터 조건에서도 ULMFiT와 같은 복잡한 방법보다 뛰어난 성능을 발휘한다.

ABSTRACT

A growing number of state-of-the-art transfer learning methods employ language models pretrained on large generic corpora. In this paper we present a conceptually simple and effective transfer learning approach that addresses the problem of catastrophic forgetting. Specifically, we combine the task-specific optimization function with an auxiliary language model objective, which is adjusted during the training process. This preserves language regularities captured by language models, while enabling sufficient adaptation for solving the target task. Our method does not require pretraining or finetuning separate components of the network and we train our models end-to-end in a single step. We present results on a variety of challenging affective and text classification tasks, surpassing well established transfer learning methods with greater level of complexity.

연구 동기 및 목표

• 사전 훈련된 언어 모델의 미세조정 과정에서 치명적인 잊음 현상을 해결하기 위해.
• 복잡한 스케줄링이나 다단계 훈련을 피하는 계산적으로 효율적이고 개념적으로 단순한 방법을 개발하기 위해.
• 작업별 분포에 적응하면서도 일반적인 언어 규칙성을 유지함으로써 자원이 제한된 텍스트 분류 작업의 성능을 향상시키기 위해.
• 종합적인 훈련 과정에서 가중치가 부여된 보조 손실을 사용하면 더 복잡한 전이 학습 파ipeline보다 성능이 뛰어날 수 있음을 입증하기 위해.

제안 방법

• 트위터 코퍼스에서 사전 훈련된 언어 모델의 가중치를 작업별 순환층과 분류 헤드를 갖춘 분류기로 전달한다.
• 작업별 분류 손실과 보조 언어 모델링 손실의 가중치 합을 사용하여 전체 모델을 종합적으로 끝내기까지 훈련한다.
• 훈련 에포크 동안 언어 모델링 손실의 가중치 계수 γ를 초기 값(예: 0.2)에서 최종 값(예: 0.1)으로 점차 감쇠시켜 시간이 지남에 따라 영향력을 줄인다.
• 상단에서 시작하여 사전 훈련된 언어 모델의 레이어를 단계적으로 해동하여 도메인 적응을 가능하게 하되, 학습된 표현을 덮어쓰지 않도록 한다.
• 분리된 사전 훈련, 미세조정, 전이 단계가 필요 없는 단일 단계, 종합적인 훈련 프로세스를 사용한다.
• 하이퍼파rameter γ를 통해 언어 모델 지식 유지와 목표 작업에의 적응 사이의 트레이드오프를 제어하며, 이 γ는 시간이 지남에 따라 감쇠된다.

실험 결과

연구 질문

• RQ1 사전 훈련된 언어 모델에서의 전이 학습 과정에서 보조 언어 모델링 목표를 가진 단순한 단일 단계 훈련 절차가 치명적인 잊음 현상을 효과적으로 방지할 수 있는가?
• RQ2 특히 자원이 제한된 조건에서, ULMFiT와 같은 더 복잡한 전이 학습 파이프라인과 비교해 본다면 제안된 방법의 성능는 어떠한가?
• RQ3 감쇠되는 보조 손실을 사용하면 다양한 텍스트 분류 작업 전반에서 일반화 능력과 모델의 강건성을 향상시킬 수 있는가?
• RQ4 사전 훈련 데이터와 목표 데이터 세트 사이에 도메인 불일치가 있을 경우, 순차적 해동이 성능 향상에 얼마나 기여하는가?
• RQ5 작업별 아키텍처 수정이나 복잡한 학습률 스케줄링 없이도 이 방법이 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• SiATL은 모든 평가된 텍스트 분류 작업에서 ULMFiT를 초월하며, 1,000개 미만의 훈련 예제를 가진 작은 데이터셋에서도 성능이 뛰어나다.
• SCv2 데이터셋에서 SiATL는 Ilic 등(2018)의 최신 기술 수준 모델과 매우 유사한 성능을 달성하여 자원이 제한된 환경에서의 강력한 일반화 능력을 입증한다.
• 보조 언어 모델링 손실은 성능 향상에 크게 기여한다: P-LM + aux 모델은 모든 후행 작업에서 P-LM 모델을 능가하며, 이는 치명적인 잊음 현상을 완화하는 데서의 역할을 확인한다.
• SCv1 데이터셋의 경우 SiATL는 성능을 7% 향상시켰으며, 이는 목표 어휘가 제한된 상황에서 보조 손실이 더 나은 적응을 가능하게 한다는 것을 시사한다.
• 순차적 해동은 비트위터 도메인 작업(예: PsychExp, SCv2)에서 상당한 성능 향상을 이끌어내며, 도메인 적응에서의 중요성을 입증한다.
• γ의 감쇠 스케줄에 대해 이 방법은 강건하다: 지수 감쇠와 선형 감쇠가 유사한 성능을 보이며, 하이퍼파ram터 튜닝에 대해 낮은 민감도를 보인다.