[논문 리뷰] An Empirical Study on Robustness to Spurious Correlations using Pre-trained Language Models

Lifu Tu, Garima Lalwani외 2명|arXiv (Cornell University)|2020. 07. 14.

Topic Modeling참고 문헌 44인용 수 9

한 줄 요약

이 논문은 BERT와 같은 사전 훈련된 언어 모델이 NLP 작업에서 허위 상관관계에 대해 강건성을 보이는 이유를 조사한다. 연구 결과, 강건성은 지배적인 힌트를 깨는 소수의 반례에 대한 일반화에서 기인하며, 이러한 반례가 부족할 경우 다중 작업 학습(MTL)을 통해 소수 데이터의 일반화 능력을 향상시켜 강건성을 크게 향상시킬 수 있다. 이는 분포 내 성능을 희생시키지 않고 이루어진다.

ABSTRACT

Recent work has shown that pre-trained language models such as BERT improve robustness to spurious correlations in the dataset. Intrigued by these results, we find that the key to their success is generalization from a small amount of counterexamples where the spurious correlations do not hold. When such minority examples are scarce, pre-trained models perform as poorly as models trained from scratch. In the case of extreme minority, we propose to use multi-task learning (MTL) to improve generalization. Our experiments on natural language inference and paraphrase identification show that MTL with the right auxiliary tasks significantly improves performance on challenging examples without hurting the in-distribution performance. Further, we show that the gain from MTL mainly comes from improved generalization from the minority examples. Our results highlight the importance of data diversity for overcoming spurious correlations.

연구 동기 및 목표

• 사전 훈련된 언어 모델이 NLP에서 허위 상관관계에 대해 강건성이 발생하는 메커니즘을 이해하는 것.
• 특히 허위 패턴을 깨는 소수의 예시가 모델의 일반화 능력을 얼마나 향상시키는지, 데이터 다양성이 어떤 영향을 미치는지 조사하는 것.
• 반례가 극히 드물 때 다중 작업 학습(MTL)이 강건성을 향상시킬 수 있는지 평가하는 것.
• MTL이 분포 내 성능을 뛰어넘어 소수 예시에서의 일반화 능력을 향상시키는지 평가하는 것.
• MTL이 i.i.d. 환경에서는 제한된 이점을 제공한다는 가정을 도전하며, 분포 외 일반화에서의 효과성을 입증하는 것.

제안 방법

• 저자들은 NLI(MNLI) 및 복수성 식별(QQP) 데이터셋에 훈련된 사전 훈련된 모델(BERT, RoBERTa)을 분석하여 표준 및 과도한 도전적인(적대적) 테스트 세트에서의 성능을 비교한다.
• 소수 예시의 영향을 분리하기 위해 허위 상관관계를 위반하는 반례(예: 함의 없이 단어 겹침 높음)를 제거하고, 과도한 세트에서의 성능 저하를 측정한다.
• 반례가 드문 경우에 일반화 능력을 향상시키기 위해, 예를 들어 역전된 패턴을 가진 복수성 또는 NLI 스타일의 데이터를 활용한 보조 작업을 포함한 다중 작업 학습(MTL)을 적용한다.
• 다양한 사전 훈련 데이터 크기, 모델 크기, 미세조정 에포크 수를 사용하여 그 영향을 강건성 정확도에 미치는 영향을 평가한다.
• 분포 내(MNLI, QQP)와 분포 외(HANS, PAWS_QQP) 테스트 세트에서의 성능을 비교하여 강건성 향상 요인을 분리한다.
• 통계적 유의성 검정을 수행하고 표준편차를 보고하여 다수의 실행에서 결과의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 왜 사전 훈련된 언어 모델이 허위 상관관계를 위반하는 과도한 분포 외 예측에 더 잘 일반화되는가?
• RQ2 훈련 데이터에 소수의 반례가 존재할 경우, 사전 훈련된 모델의 강건성에 얼마나 기여하는가?
• RQ3 반례가 극히 드물 때 다중 작업 학습(MTL)이 강건성을 향상시킬 수 있는가, 분포 내 성능을 저하시키지 않는가?
• RQ4 MTL의 향상 효과는 소수 예시에서의 일반화 능력 향상에서 기인하는가, 아니면 다른 인덕티브 바이어스 때문인가?
• RQ5 모델 규모, 사전 훈련 데이터 크기, 미세조정 기간은 허위 상관관계에 대한 강건성에 어떤 영향을 미치는가?

주요 결과

• 사전 훈련된 모델은 사전 훈련되지 않은 모델보다 강건 정확도가 높으며(예: BERT_LARGE 기준 HANS에서 71.4%), 주로 희귀한 반례에서의 일반화 덕분이다.
• 허위 상관관계를 위반하는 소수의 반례를 제거하면 강건 정확도에 심각한 하락이 발생한다(예: HANS에서 62.5%에서 49.9%로 감소), 이는 반례의 핵심적 역할을 입증한다.
• 반례가 극히 드물 경우, 보조 작업을 포함한 다중 작업 학습(MTL)이 HANS에서 강건 정확도를 최대 12.6%p 향상시켜 53.8%에서 62.5%로 향상시키며, 분포 내 성능에는 영향을 주지 않는다.
• MTL의 성과는 모델 용량이나 인덕티브 바이어스가 아닌, 소수 예시에서의 일반화 능력 향상 덕분에 기인한다.
• 더 큰 모델 크기, 더 많은 사전 훈련 데이터, 더 긴 미세조정 기간은 소수 예시가 드물 때 강건 정확도를 더욱 향상시킨다.
• HANS와 PAWS_QQP에서의 성능 격차는 현재의 과도한 테스트 세트가 모든 종류의 분포 이탈을 포함하지 못하고 있음을 시사하며, 더 포괄적인 평가가 필요함을 강조한다.