[논문 리뷰] Few-shot Sequence Learning with Transformers

Lajanugen Logeswaran, Ann Lee외 4명|arXiv (Cornell University)|2020. 12. 17.

Domain Adaptation and Few-Shot Learning참고 문헌 32인용 수 5

한 줄 요약

이 논문은 트랜스포머를 사용한 시퀀스 모델링을 위한 간단하면서도 효과적인 few-shot 학습 방법인 Task-Adaptive Memory(TAM)을 제안한다. 두 번째 차수의 방법 대신 첫 번째 차수의 기울기 하강을 통해 작업별 임베딩을 최적화함으로써, CAVIA나 MAML과 같은 메타학습 기반 방법과 비교해 성능이 유사하거나 뛰어나면서도, 특히 이산 시퀀스에서 소수의 예제가 있는 저샷 설정에서 훨씬 더 계산적으로 효율적이다.

ABSTRACT

Few-shot algorithms aim at learning new tasks provided only a handful of training examples. In this work we investigate few-shot learning in the setting where the data points are sequences of tokens and propose an efficient learning algorithm based on Transformers. In the simplest setting, we append a token to an input sequence which represents the particular task to be undertaken, and show that the embedding of this token can be optimized on the fly given few labeled examples. Our approach does not require complicated changes to the model architecture such as adapter layers nor computing second order derivatives as is currently popular in the meta-learning and few-shot learning literature. We demonstrate our approach on a variety of tasks, and analyze the generalization properties of several model variants and baseline approaches. In particular, we show that compositional task descriptors can improve performance. Experiments show that our approach works at least as well as other methods, while being more computationally efficient.

연구 동기 및 목표

• 자연어 처리와 강화 학습에서 한 번의 작업당 몇 개의 레이블된 예제만 있는 few-shot 시퀀스 학습 문제에 대응하기 위해.
• 아키텍처 수정 없이도 사전 학습된 트랜스포머를 새로운 작업에 효율적으로 적응시킬 수 있는 방법을 개발하기 위해.
• 두 번째 차수의 메타학습 접근 방식인 MAML과 CAVIA와 비교해도 성능을 유사하거나 초월할 수 있는 첫 번째 차수의 작업 임베딩 최적화가 가능함을 보여주기 위해.
• 작업 임베딩을 통한 입력 조건화와 조합적 작업 기술자(compositional task descriptors)의 효과를 평가하여 다양한 시퀀스 작업 간의 일반화 능력을 향상시키기 위해.

제안 방법

• 모델이 공유 파라미터를 변경하지 않고도 새로운 작업에 적응할 수 있도록, 작업 임베딩 벡터 z를 입력 시퀀스에 조건부 프롬프트로 추가하는 방법을 도입한다.
• 작업 임베딩은 인퍼런스 또는 희소한 레이블된 예제를 사용해 첫 번째 차수 기울기 하강을 통해 최적화되며, 두 번째 차수 도함수의 필요 없이 수행된다.
• 시퀀스 분류의 경우, 분류 헤드가 부착된 트랜스포머 인코더를 사용하며, [CLS] 토큰은 작업 임베딩 z로 대체된다.
• 시퀀스 전달 작업의 경우, 트랜스포머 디코더를 사용하고, 출력 시퀀스의 로그우도는 입력 x와 작업 임베딩 z에 조건부로 계산된다.
• 학습 절차는 공유 모델 파라미터 θ 업데이트와 기울기 하강을 통해 작업 임베딩 z 최적화를 번갈아 수행함으로써, 교차 최소화 방식을 형성한다.
• 복합적인 또는 계층적인 작업을 표현하기 위해 여러 작업 임베딩 벡터를 조합하는 조합적 작업 기술자를 탐색한다.

실험 결과

연구 질문

• RQ1 두 번째 차수 도함수나 아키텍처 어댑터 없이도, 첫 번째 차수의 작업 임베딩 최적화가 시퀀스 모델링 작업에서 경쟁적인 few-shot 성능을 달성할 수 있는가?
• RQ2 기타 few-shot 적응 메커니즘과 비교했을 때, 작업 임베딩을 통한 입력 조건화의 정확도와 효율성은 어떠한가?
• RQ3 조합적 작업 기술자가 few-shot 시퀀스 학습에서 일반화 능력을 향상시키는가?
• RQ4 제안된 방법은 few-shot 예제 수(k)와 작업당 학습 데이터의 양에 따라 어떻게 스케일링되는가?
• RQ5 최소한의 아키텍처 수정으로도 시퀀스 분류와 시퀀스 전달 작업 양쪽에 효과적으로 적용될 수 있는가?

주요 결과

• TAM은 합성 시퀀스 분류 및 전달 벤치마크에서 최신 기술 수준의 성능을 달성했으며, MAML을 능가하고 CAVIA와 정확도가 유사하거나 초월하면서도 계산적으로 훨씬 더 효율적이다.
• 경로 탐색 작업에서 TAM은 2.7시간의 학습 시간에 퍼플렉서티 1.3을 달성했고, CAVIA는 3.7시간에 퍼플렉서티 1.5를 기록하여, 효율성이 뛰어나다는 것을 입증했다.
• 다중 작업 기반 베이스라인(정확도 67.4%, 퍼플렉서티 7.2)에 비해 일관되게 성능이 뛰어나, few-shot 성능을 위해 작업별 적응이 필수적임을 보여주었다.
• 아블레이션 연구를 통해 조합적 작업 기술자가 복잡한 구조적 작업 변형 간의 일반화를 가능하게 하여 성능 향상을 이룬 것으로 확인되었다.
• 모델이 트랜스포머 기반인 TAM은 양방향 LSTM 기반 베이스라인보다 정확도와 퍼플렉서티 면에서 모두 뛰어나, 아키텍처와 방법의 조합이 효과적임을 확인했다.
• 충분한 학습 데이터와 다중 내부 루프 업데이트를 함께 사용할 경우, 첫 번째 차수 최적화만으로도 강력한 성능을 달성할 수 있으며, 이는 두 번째 차수 방법이 좋은 few-shot 일반화를 위해 반드시 필요하다는 가정을 도전한다.