[논문 리뷰] Revisiting Out-of-distribution Robustness in NLP: Benchmark, Analysis, and LLMs Evaluations

Lifan Yuan, Yangyi Chen외 7명|arXiv (Cornell University)|2023. 06. 07.

Topic Modeling인용 수 7

한 줄 요약

이 논문은 자연어처리(NLP)에서 분포 외(out-of-distribution, OOD)에 대한 강건성 평가를 위한 종합적 벤치마크인 BOSS를 제안한다. 이 벤치마크는 엄격하게 선별된 상이한 OOD 분포를 가진 5개의 작업과 20개의 데이터셋을 포함한다. 연구에서는 미세조정된 모델에서 ID-OOD 성능 상관관계에 대해 세 가지의 상이한 패턴을 밝혀내었으며, 표준 강건성 기법이 순수한 미세조정 대비 제한적인 성능 향상을 보였고, 맥락 학습을 활용한 대규모 언어 모델(LLMs)이 ID 데이터가 부족한 경우에 특히 분포 외 데이터에서 미세조정된 소형 모델을 능가함을 발견하였다.

ABSTRACT

This paper reexamines the research on out-of-distribution (OOD) robustness in the field of NLP. We find that the distribution shift settings in previous studies commonly lack adequate challenges, hindering the accurate evaluation of OOD robustness. To address these issues, we propose a benchmark construction protocol that ensures clear differentiation and challenging distribution shifts. Then we introduce BOSS, a Benchmark suite for Out-of-distribution robustneSS evaluation covering 5 tasks and 20 datasets. Based on BOSS, we conduct a series of experiments on pre-trained language models for analysis and evaluation of OOD robustness. First, for vanilla fine-tuning, we examine the relationship between in-distribution (ID) and OOD performance. We identify three typical types that unveil the inner learning mechanism, which could potentially facilitate the forecasting of OOD robustness, correlating with the advancements on ID datasets. Then, we evaluate 5 classic methods on BOSS and find that, despite exhibiting some effectiveness in specific cases, they do not offer significant improvement compared to vanilla fine-tuning. Further, we evaluate 5 LLMs with various adaptation paradigms and find that when sufficient ID data is available, fine-tuning domain-specific models outperform LLMs on ID examples significantly. However, in the case of OOD instances, prioritizing LLMs with in-context learning yields better results. We identify that both fine-tuned small models and LLMs face challenges in effectively addressing downstream tasks. The code is public at \url{https://github.com/lifan-yuan/OOD_NLP}.

연구 동기 및 목표

• 실제 분포 이탈을 정확히 반영하는 표준화되고 도전적인 NLP OOD 벤치마크의 부족을 해결하기 위함.
• 미세조정된 사전학습된 언어 모델에서 내재된 분포(ID)와 분포 외(OOD) 성능 간의 관계를 조사하기 위함.
• 통합된 벤치마크를 사용하여 기존의 강건성 향상 기법과 대규모 언어 모델(LLMs)의 OOD 일반화 성능을 평가하기 위함.
• 분포 상이성과 성능 저하 기반으로 더 철저하고 대표성을 갖춘 OOD 벤치마크를 구축하기 위한 프로토콜을 제공하기 위함.

제안 방법

• OOD 벤치마크 구축을 위한 세 가지 원칙 프로토콜을 제안: (1) 대규모이고 다양한 ID 데이터셋 사용; (2) 다른 텍스트 출처와 의미를 가진 OOD 데이터셋 선별; (3) 심각한 성능 저하를 유도하는 분포 이탈 우선 고려.
• 5개의 NLP 작업(감성 분석, 독성 탐지, NLI, NER, 추출형 QA)을 포함하는 BOSS 벤치마크 스위트를 도입하며, 각 작업에 대해 하나의 ID 데이터셋과 세 개의 OOD 데이터셋을 제공하여 도전적이고 다양한 분포 이탈을 보장한다.
• 모델 규모, 학습 스텝 수, 학습 샘플 크기, 조정 가능한 하이퍼파라미터 등을 변화시켜 제어 실험을 수행하여 ID-OOD 성능 상관관계 분석.
• BOSS에서 다섯 가지 고전적 OOD 강건성 기법의 일반화 성능 향상을 순수한 미세조정 대비 평가.
• 다양한 적응 파라다임을 사용해 다섯 개의 LLM을 테스트: 도메인 특화 데이터로의 미세조정 및 ID 또는 OOD 예시를 활용한 맥락 학습.
• 모델 간 및 작업 간 일관된 평가를 보장하기 위해 표준화된 템플릿과 지시어를 LLM 추론에 적용.

실험 결과

연구 질문

• RQ1 다양한 분포 이탈 특성은 미세조정된 NLP 모델의 일반화 성능에 어떻게 영향을 미치는가?
• RQ2 다양한 모델 구성에서 내재된 분포(ID)와 분포 외(OOD) 성능 간의 상관관계는 어떤 성격을 지닌다?
• RQ3 표준화된 벤치마크에서 기존의 강건성 향상 기법이 순수한 미세조정 대비 OOD 일반화 성능 향상에 뚜렷한 기여를 하는가?
• RQ4 특히 데이터 부족 조건에서 맥락 학습을 활용한 대규모 언어 모델(LLMs)은 미세조정된 소형 모델 대비 OOD 일반화 성능에서 어떻게 비교되는가?
• RQ5 ID 성능이 OOD 강건성 예측에 신뢰할 수 있는가? ID-OOD 성능 관계에서 어떤 패턴이 드러나는가?

주요 결과

• 세 가지의 상이한 ID-OOD 성능 상관관계 패턴이 확인되었다: 단조적 선형 양의, 단조적 조각별 선형 양의, 비단조적 V자형 패턴으로, 이는 미세조정된 모델에서 복잡한 학습 역학을 시사한다.
• 일부 사례에서의 성능 향상에도 불구하고, 고전적 OOD 강건성 기법은 BOSS 벤치마크에서 순수한 미세조정 대비 뚜렷한 성능 향상을 보이지 않아 일반화 이점이 제한적임을 시사한다.
• 충분한 내재된 분포(ID) 데이터가 있는 경우, 미세조정된 소형 모델은 ID 예시에서 LLM보다 뛰어나지만, 맥락 학습을 활용한 LLM은 OOD 성능에서 더 우수하다.
• 일부 작업(예: 감성 분석)에서는 학습 스텝 수가 증가할수록 ID와 OOD 일반화 간 성능 격차가 커지며, 이는 ID 데이터에 대한 과적합이 OOD 강건성에 악영향을 줄 수 있음을 시사한다.
• CoNLL NER 데이터셋에서는 OOD 일반화가 가장 용이하며(가장 높은 ID-OOD 상관관계), WNUT에서는 가장 어렵다(가장 낮은 상관관계)로 나타나 작업에 따라 OOD 과제의 특이성이 뚜렷하다.
• 추출형 질의 응답 과제에서 SearchQA 데이터셋은 ID-OOD 상관관계의 변화가 가장 뚜렷하게 나타나, 학습 역학에 더 민감함을 시사한다.