[논문 리뷰] Empowering Large Language Models for Textual Data Augmentation

Yichuan Li, Kaize Ding외 2명|arXiv (Cornell University)|2024. 04. 26.

Natural Language Processing Techniques인용 수 4

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)을 위한 작업별로 특화된 증강 지침을 자동으로 생성하고 선택하는 Self-LLMDA라는 프레임워크를 제안한다. 이는 고품질의 텍스트 데이터 증강을 가능하게 한다. LLM을 활용해 다양한 지침을 생성하고, 성능 예측을 기반으로 효과적인 지침을 선별하는 점수 모델을 활용함으로써, 26개의 희소적 학습 작업에서 최신 기술 수준의 성능을 달성하였으며, 비-LLM 및 기존 LLM 기반 증강 방법보다 뚜렷이 뛰어나다.

ABSTRACT

With the capabilities of understanding and executing natural language instructions, Large language models (LLMs) can potentially act as a powerful tool for textual data augmentation. However, the quality of augmented data depends heavily on the augmentation instructions provided, and the effectiveness can fluctuate across different downstream tasks. While manually crafting and selecting instructions can offer some improvement, this approach faces scalability and consistency issues in practice due to the diversity of downstream tasks. In this work, we address these limitations by proposing a new solution, which can automatically generate a large pool of augmentation instructions and select the most suitable task-informed instructions, thereby empowering LLMs to create high-quality augmented data for different downstream tasks. Empirically, the proposed approach consistently generates augmented data with better quality compared to non-LLM and LLM-based data augmentation methods, leading to the best performance on 26 few-shot learning tasks sourced from a wide range of application domains.

연구 동기 및 목표

• LLM 기반 데이터 증강에서 수작업으로 만든, 작업에 관계없이 일반적인 지침의 한계를 해결하기 위해, 이는 일관성 부족과 다양한 후행 작업으로의 일반화 능력 부족을 야기한다.
• 전문가가 수작업으로 만든 프롬프트에 의존하는 것을 줄이고, LLM을 활용해 다양한 고품질의 증강 지침 풀을 자동 생성함으로써, 이에 대한 의존도를 감소시키기.
• 특정 후행 작업에 맞는 지침을 선택하기 위해, 성능에 기반한 점수 모델을 개발함으로써, 데이터 증강 품질과 모델 성능을 향상시키기.
• 높은 유창성, 다양성, 의미 일관성을 유지하면서도 확장 가능하고 일반화 가능한 LLM 기반 데이터 증강 프레임워크를 구축하기.
• 다양한 자연어 처리(NLP) 작업 전반에서 프레임워크의 유효성을 검증하여, 기존 방법들에 비해 일관되게 뛰어난 성능을 보여주기.

제안 방법

• 시드 전략에서 출발하여 대규모 언어 모델을 활용해 다양한 증강 지침을 자동 생성함으로써, 인간이 수작업으로 만든 예시를 넘어서는 지침 공간을 확장한다.
• 검색 기반 보강 프롬프팅 전략을 적용하여 문법적, 의미적, 구조적 다양성을 포함한 다양한 지침을 생성함으로써, 어휘적·구조적 다양성과 의미적 타당성을 확보한다.
• 소규모 모델 파인튜닝을 통한 성능 예측을 기반으로, 주어진 후행 작업에 대해 지침의 예상 효과를 평가하는 점수 모델을 훈련한다.
• 각 작업에 대해 상위-k개의 높은 점수를 받은 지침을 선별하여, LLM이 최종 증강 데이터를 생성할 때 작업에 특화된 관련성을 확보한다.
• 두 단계 과정을 활용: 첫 번째로 지침 생성, 두 번째로 성능 인식 기반 점수 모델을 통한 지침 선별을 통해 다양성과 정밀도의 균형을 이룬다.
• 자동 평가 지표와 후행 작업 성능을 활용하여 생성된 데이터의 품질과 지침 선별 과정의 효과성을 검증한다.

실험 결과

연구 질문

• RQ1 LLM을 활용한 자동 지침 생성이 수작업으로 만든 지침보다 더 넓고 다양한 증강 전략을 생성할 수 있는가?
• RQ2 성능 인식 기반 점수 모델을 통해 작업에 맞는 지침을 선택할 경우, 작업에 관계없이 일반적인 지침이나 비-LLM 방법에 비해 더 높은 품질의 증강 데이터를 얻을 수 있는가?
• RQ3 제안된 Self-LLMDA 프레임워크는 다양한 후행 NLP 작업에서 희소적 학습 환경에서 어떻게 성능을 발휘하는가?
• RQ4 이 프레임워크는 이전에 본 적 없는 증강 지침과 타겟 모델로도 얼마나 잘 일반화되는가?
• RQ5 지침의 품질과 구체성은 데이터 증강 학습에서 후행 모델의 정확도에 어떤 영향을 미치는가?

주요 결과

• Self-LLMDA는 26개의 다양한 희소적 학습 작업 전반에서 비-LLM 및 기존 LLM 기반 데이터 증강 방법을 일관되게 뛰어넘었으며, 평가된 모든 벤치마크에서 최고 성능을 기록했다.
• 수작업 프롬프트나 히ュ리스틱 기반 방법에 비해 더 높은 품질, 더 높은 다양성, 더 높은 의미 일관성을 갖춘 증강 데이터를 생성함으로써, 후행 모델의 정확도가 크게 향상됨을 입증했다.
• 점수 모델이 작업에 맞는 지침을 효과적으로 식별하여, 다양한 도메인과 작업 간 성능 변동성을 줄이고 모델의 일반화 능력을 향상시켰다.
• 이 방법은 이전에 본 적 없는 증강 지침과 타겟 모델로도 잘 일반화되어 강력한 내성성과 광범위한 적용 가능성을 보였다.
• LLM을 통한 자동 지침 생성은 인간이 수작업으로 만든 대안보다 훨씬 더 큰 크기와 더 높은 다양성을 갖춘 전략 풀을 생성했으며, 데이터 증강의 다양성을 향상시켰다.
• 실증 결과는 작업에 맞는 지침 선별이 핵심임을 확인했다—무작위 또는 일반적인 지침은 낮은 품질의 데이터와 성능 저하를 초래했다.