[논문 리뷰] Cutting Down on Prompts and Parameters: Simple Few-Shot Learning with Language Models

Robert L. Logan, Ivana Balažević외 4명|arXiv (Cornell University)|2021. 06. 24.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 [MASK] 토큰을 포함한 null 프롬프트—입력 데이터를 연결한 형태—를 사용하는 간단하면서도 효과적인 few-shot 학습 방법을 제안한다. 이 방법은 비용이 많이 드는 프롬프트 엔지니어링 없이도 수동으로 설계된 프롬프트와 경쟁 가능한 정확도를 달성하며, 파라미터 업데이트를 1,000배 감소시켜 프롬프트 기반 미세조정이 문맥 내 학습이나 전체 모델 미세조정보다 더 견고하고 메모리 효율적인 방식이 될 수 있음을 보여준다.

ABSTRACT

Prompting language models (LMs) with training examples and task descriptions has been seen as critical to recent successes in few-shot learning. In this work, we show that finetuning LMs in the few-shot setting can considerably reduce the need for prompt engineering. In fact, one can use null prompts, prompts that contain neither task-specific templates nor training examples, and achieve competitive accuracy to manually-tuned prompts across a wide range of tasks. While finetuning LMs does introduce new parameters for each downstream task, we show that this memory overhead can be substantially reduced: finetuning only the bias terms can achieve comparable or better accuracy than standard finetuning while only updating 0.1% of the parameters. All in all, we recommend finetuning LMs for few-shot learning as it is more accurate, robust to different prompts, and can be made nearly as efficient as using frozen LMs.

연구 동기 및 목표

• 복잡한 프롬프트 엔지니어링에 의존하는 것의 정도를 줄이기 위해 단순하고 효과적인 프롬프트를 식별하는 것.
• 하류 작업을 위한 프롬프트 기반 미세조정에서 메모리 오버헤드를 최소화하는 것.
• 경량 파라미터 업데이트가 전체 미세조정 정확도를 따라하거나 뛰어넘을 수 있는지 평가하는 것.
• 자동 프롬프트 튜닝을 통한 프롬프트 기반 미세조정과 문맥 내 학습의 효과성을 비교하는 것.
• few-shot 학습의 성공 원인이 프롬프트 설계에 기인하는지, 아니면 마스크된 예측과 같은 기저 모델 메커니즘에 기인하는지 조사하는 것.

제안 방법

• [MASK] 토큰을 포함한 'null 프롬프트'—특정 작업에 맞는 템플릿이나 학습 예제 없이 입력 시퀀스를 연결한 형태—사용.
• 모델의 바이어스 항목만 업데이트하는 방식으로 프롬프트 기반 미세조정을 적용함 (BitFit). 이로 인해 훈련 가능한 파라미터 수가 전체 모델의 약 0.1%로 감소.
• 다른 경량 미세조정 방법—예: 어댑터, LM 헤드 튜닝, 校정 레이어—를 평가.
• 수동 및 자동 프롬프트 튜닝을 모두 사용해 여러 NLP 작업(예: MNLI, QQP, SST-2)에서 성능을 비교.
• 분류를 위해 [MASK] 토큰에 표준 MLM 헤드 예측을 적용한 마스크된 언어 모델(MLMs) 사용.
• 정확도와 메모리 효율성 측정을 위해 문맥 내 학습 및 전체 미세조정과의 벤치마킹 수행.

실험 결과

연구 질문

• RQ1 특정 작업에 맞는 템플릿이나 학습 예제 없이도, 입력과 [MASK] 토큰을 단순히 연결한 null 프롬프트가 수동으로 설계된 프롬프트와 경쟁 가능한 few-shot 정확도를 달성할 수 있는가?
• RQ2 바이어스 항목만 업데이트하는 방식(BitFit)이 파라미터 업데이트를 극도로 줄이면서도 성능을 유지하거나 향상시킬 수 있는가?
• RQ3 정확도와 프롬프트 변형에 대한 견고성 측면에서, 프롬프트 기반 미세조정은 문맥 내 학습보다 어떻게 다를 수 있는가?
• RQ4 자동 프롬프트 튜닝(예: AutoPrompt)이 few-shot 환경에서 수동 프롬프트 설계를 효과적으로 대체할 수 있는가?
• RQ5 few-shot 학습의 성공은 주로 프롬프트 엔지니어링에 기인하는가, 아니면 마스크된 예측과 같은 내재된 모델 능력에 기인하는가?

주요 결과

• 입력과 [MASK] 토큰을 단순히 연결한 null 프롬프트가 여러 작업에서 수동으로 설계된 프롬프트와 유사하거나 더 높은 정확도를 달성한다.
• 바이어스 항목만 업데이트하는 BitFit 방식이 전체 모델 미세조정과 비교해도 경쟁력 있거나 더 뛰어난 정확도를 기록하며, 업데이트하는 파라미터 비율은 0.1%에 불과하다.
• BitFit 방법은 다양한 작업에서 '승리 수' 측면에서 전체 미세조정을 능가하며, 16-shot 데이터에서 전체 파라미터를 업데이트하는 것이 최적의 전략이 아닐 수 있음을 시사한다.
• 문맥 내 학습을 위한 자동 프롬프트 튜닝은 수동으로 설계된 프롬프트의 성능을 따라잡지 못하며, 이는 비-few-shot 환경과는 다릅니다.
• 어댑터와 전체 미세조정은 파라미터 수가 증가함에 따라 정확도 향상의 감소 추세를 보이며, 이는 더 작은 업데이트 집합이 더 효과적일 수 있음을 시사한다.
• null 프롬프트와 BitFit의 조합은 견고하고 메모리 효율적이며 높은 정확도를 보이는 few-shot 학습 방법을 제공하며, 이는 문맥 내 학습과 표준 미세조정을 모두 능가한다.