[논문 리뷰] LAMAL: LAnguage Modeling Is All You Need for Lifelong Language Learning

Fan-Keng Sun, Cheng-Hao Ho외 1명|arXiv (Cornell University)|2019. 09. 07.

Multimodal Machine Learning Applications인용 수 10

한 줄 요약

LAMAL은 기존 작업의 가짜 샘플을 언어 모델링을 통해 생성함으로써 새로운 작업을 학습하는 동안 치명적인 잊음( catastrophic forgetting)을 방지하는 일생 동안의 언어 학습 프레임워크를 제안한다. 추가 메모리나 모델 용량이 필요 없으며, 하나의 통합 모델을 사용하여 다섯 가지 다양한 언어 작업에서 다중 작업 기준 성능의 2–3% 이내로 성능을 달성한다.

ABSTRACT

Most research on lifelong learning (LLL) applies to images or games, but not language. We present LAMAL, a simple yet effective method for LLL based on language modeling. LAMAL replays pseudo-samples of previous tasks while requiring no extra memory or model capacity. Specifically, LAMAL is a language model that simultaneously learns to solve the task and generate training samples. When the model is trained for a new task, it generates pseudo-samples of previous tasks for training alongside data for the new task. The results show that LAMAL prevents catastrophic forgetting without any sign of intransigence and can perform up to five very different language tasks sequentially with only one model. Overall, LAMAL outperforms previous methods by a considerable margin and is only 2--3\% worse than multitasking, which is usually considered the LLL upper bound. The source code is available at https://github.com/xxx.

연구 동기 및 목표

• 자연어 처리 작업을 위한 일생 동안의 학습 방법이 부족한 데에 대응하기 위해, 기존에 주로 시각 또는 강화 학습에 집중된 분야에서 벗어나 자연어 처리에 초점을 맞춘다.
• 추가 메모리나 모델 용량을 요구하지 않고 순차적 언어 학습에서 치명적인 잊음을 방지한다.
• 언어 모델링을 유일한 핵심 메커니즘으로 사용하여 다수의 다양한 언어 작업을 순차적으로 학습할 수 있는 통합 모델을 개발한다.
• 단순성과 확장성을 유지하면서 다중 작업의 상한선 성능에 근접한 성능을 달성한다.

제안 방법

• LAMAL은 현재 작업을 수행하고 이전에 학습한 작업의 가짜 샘플을 생성하는 것을 동시에 학습하는 단일 언어 모델을 사용한다.
• 새로운 작업을 학습하는 동안 모델은 자신의 과거 작업 지식에서 합성 데이터(가짜 샘플)를 생성한다.
• 이러한 생성된 가짜 샘플은 현재 작업 데이터와 결합되어 모델을 훈련시키며, 이는 이전 지식의 유지에 기여한다.
• 외부 메모리, 버퍼 저장소, 아키텍처 수정이 전혀 필요 없으며, 오직 자동회귀 언어 모델링에 의존한다.
• 표준 언어 모델링 목표로 끝에서 끝까지 훈련되며, 이는 작업 학습과 샘플 생성을 암묵적으로 지원한다.
• 가짜 샘플은 각 작업 후 모델 자체의 파라미터를 사용하여 생성되며, 원시 데이터를 저장하지 않고도 지속적인 복습이 가능하다.

실험 결과

연구 질문

• RQ1 언어 모델링만으로도 자연어 처리 작업에서 일생 동안의 학습 기반을 제공할 수 있는가?
• RQ2 모델이 스스로 가짜 샘플을 생성함으로써 순차적 학습에서 잊음을 얼마나 효과적으로 방지할 수 있는가?
• RQ3 언어 모델링을 통해 훈련된 단일 모델이 다양한 언어 작업에서 다중 작업 학습의 성능에 얼마나 근접할 수 있는가?
• RQ4 외부 메모리나 용량 확장 없이도 일생 동안의 언어 학습에서 성능에 악영향을 미치는가?

주요 결과

• LAMAL은 치명적인 잊음을 방지하며 다섯 가지 매우 다른 언어 작업에서 어떤 경색 현상도 보이지 않는다.
• 이 방법은 다중 작업 기준 상한선 성능의 2–3% 이내로 성능을 달성하며, 이는 일생 동안의 학습에서 최적의 성능로 간주된다.
• LAMAL은 이전의 언어 작업을 위한 일생 동안의 학습 방법보다 상당한 격차로 슈퍼어리어한다.
• 자기 생성 데이터만을 사용하여 순차적 작업 간 강력한 일반화 및 유지 능력을 유지한다.
• 추가 메모리나 모델 용량이 필요 없어 매우 효율적이고 확장 가능하다.
• 다양한 언어 작업에 걸쳐 강건하며, 일생 동안의 언어 학습에 넓은 적용 가능성을 보여준다.