[논문 리뷰] Pre-trained Token-replaced Detection Model as Few-shot Learner

Zicheng Li, Shoushan Li외 1명|arXiv (Cornell University)|2022. 03. 07.

Natural Language Processing Techniques인용 수 6

한 줄 요약

이 논문은 ELECTRA와 같은 사전 훈련된 토큰 치환 검출 모델을 사용하여 소수의 예제로 학습하는 새로운 방법을 제안한다. 분류 작업을 프롬프트에 레이블 설명어를 삽입함으로써 토큰 치환 검출 문제로 재구성한다. 모델은 가장 덜 치환된(가장 원본에 가까운) 레이블 단어를 예측하며, 16개의 NLP 데이터셋에서 최신 기준 성능을 달성하여, 한 문장 및 두 문장 작업 모두에서 마스킹된 언어 모델 기반 소수 예제 학습 방법을 능가한다.

ABSTRACT

Pre-trained masked language models have demonstrated remarkable ability as few-shot learners. In this paper, as an alternative, we propose a novel approach to few-shot learning with pre-trained token-replaced detection models like ELECTRA. In this approach, we reformulate a classification or a regression task as a token-replaced detection problem. Specifically, we first define a template and label description words for each task and put them into the input to form a natural language prompt. Then, we employ the pre-trained token-replaced detection model to predict which label description word is the most original (i.e., least replaced) among all label description words in the prompt. A systematic evaluation on 16 datasets demonstrates that our approach outperforms few-shot learners with pre-trained masked language models in both one-sentence and two-sentence learning tasks.

연구 동기 및 목표

• NLP 분야에서 레이블이 적은 데이터로 인한 저자원 소수 예제 학습 문제를 해결하기 위해.
• 사전 훈련된 토큰 치환 검출 모델(예: ELECTRA)의 잠재적 활용 가능성이 아직 충분히 활용되지 않았음을 탐색하기 위해.
• 분류 작업을 토큰 치환 검출 문제로 재구성함으로써 소수 예제 학습 성능을 향상시키기 위해.
• 이 방법의 효과성을 다양한 한 문장 및 두 문장 NLP 작업에 걸쳐 평가하기 위해.

제안 방법

• 레이블 설명어를 포함한 자연어 프롬프트를 구성함으로써, 다운스트림 분류 또는 회귀 작업을 토큰 치환 검출 문제로 재구성한다.
• 템플릿과 모든 레이블 설명어를 입력 문장에 삽입하여 프롬프트를 구성하고, 의도적으로 토큰 치환이 발생할 수 있도록 한다.
• 사전 훈련된 ELECTRA 스타일 모델을 사용하여 후보 중에서 가장 원본에 가까운(가장 덜 치환된) 레이블 설명어를 예측한다.
• 모델을 각 클래스당 몇 개의 레이블 예제만을 사용하여 훈련하고 평가하며, 토큰 치환을 탐지할 수 있는 모델의 능력을 활용한다.
• 성능에 미치는 영향을 분석하기 위해 다양한 템플릿과 레이블 설명어를 사용한 프롬프트를 설계한다.
• 고정된 초모수와 표준화된 평가 프로토콜을 사용하여, 마스킹된 언어 모델 기반 소수 예제 학습 방법(예: LM-BFF)과 이 방법을 비교한다.

실험 결과

연구 질문

• RQ1 사전 훈련된 토큰 치환 검출 모델는 다운스트림 NLP 작업을 위한 소수 예제 학습 모델로 효과적으로 재사용될 수 있는가?
• RQ2 저자원 환경에서 이 방법의 성능는 마스킹된 언어 모델 기반 소수 예제 학습 방법과 비교해 볼 때 어떻게 되는가?
• RQ3 다양한 프롬프트 템플릿과 레이블 설명어는 소수 예제 학습 정확도에 어떤 영향을 미치는가?
• RQ4 클래스당 레이블 예제의 수가 제안된 방법의 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 한 문장 및 두 문장 작업 모두에서 16개 데이터셋 중 15개에서 마스킹된 언어 모델 기반 소수 예제 학습 방법(예: LM-BFF)을 능가한다.
• SST-2 데이터셋에서 'It was great terrible' 템플릿을 사용하여 91.4%의 정확도를 기록했으며, LM-BFF의 88.6%를 초월했다.
• MNLI에서 클래스당 128~512개의 레이블 예제를 사용할 경우, 이 방법이 LM-BFF를 능가했으며, 중간 수준의 예제 수에서 더 우수한 일반화 성능를 보였다.
• 레이블 설명어와 작업 카테고리 간의 의미적 유사성이 성능 향상에 기여하며, 'great/terrible'과 'good/bad'는 의미적으로 관련 없는 쌍인 'dog/cat'보다 성능이 뛰어났다.
• 모델은 프롬프트 템플릿에 민감하며, 문장 부호나 문장 구조에 따라 성능이 변동하지만, 보편적으로 최적의 템플릿은 발견되지 않았다.
• 클래스당 레이블 예제가 4개뿐이어도 이 방법은 강력한 성능 유지를 보이며, 극도로 자원이 부족한 상황에서도 견고함을 입증했다.