[논문 리뷰] An Empirical Survey of the Effectiveness of Debiasing Techniques for Pre-trained Language Models

Nicholas Meade, Elinor Poole-Dayan외 1명|arXiv (Cornell University)|2021. 10. 16.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 BERT, ALBERT, RoBERTa 및 GPT-2에서 성별, 인종 및 종교적 편향을 줄이는 데 효과적인지 평가하기 위해 다섯 가지 탈편향 기법—CDA, Dropout, INLP, Self-Debias 및 SentenceDebias—를 실증적으로 평가한다. Self-Debias는 모든 벤치마크에서 편향 점수를 지속적으로 향상시키며, 하류 NLU 작업에 대한 부정적 영향가 최소화하면서 가장 효과적인 방법으로 나타났다. 다만 모든 기법이 언어 모델링 성능을 떨어뜨린다.

ABSTRACT

Recent work has shown pre-trained language models capture social biases from the large amounts of text they are trained on. This has attracted attention to developing techniques that mitigate such biases. In this work, we perform an empirical survey of five recently proposed bias mitigation techniques: Counterfactual Data Augmentation (CDA), Dropout, Iterative Nullspace Projection, Self-Debias, and SentenceDebias. We quantify the effectiveness of each technique using three intrinsic bias benchmarks while also measuring the impact of these techniques on a model's language modeling ability, as well as its performance on downstream NLU tasks. We experimentally find that: (1) Self-Debias is the strongest debiasing technique, obtaining improved scores on all bias benchmarks; (2) Current debiasing techniques perform less consistently when mitigating non-gender biases; And (3) improvements on bias benchmarks such as StereoSet and CrowS-Pairs by using debiasing strategies are often accompanied by a decrease in language modeling ability, making it difficult to determine whether the bias mitigation was effective.

연구 동기 및 목표

• 사전 훈련된 언어 모델에서 사회적 편향을 완화하는 데 효과적인 최근 다섯 가지 탈편향 기법의 성능 평가
• 탈편향이 언어 모델링 능력과 하류 NLU 작업 성능에 미치는 영향 측정
• 탈편향 기법이 성별 편향을 넘어서 인종 및 종교적 편향에도 일반화되는지 조사
• 편향 감소와 모델 성능 저하 사이의 상충 관계 평가

제안 방법

• 본 연구는 대조적 데이터 증강(CDA), 드롭아웃, 반복적 영역 투영(INLP), Self-Debias 및 문장 수준 탈편향(SentenceDebias)의 다섯 가지 탈편향 기법을 평가한다.
• 세 가지 내재적 편향 벤치마크인 SEAT, StereoSet 및 CrowS-Pairs를 사용하여 성별, 인종 및 종교적 편향을 측정한다.
• 언어 모델링 능력 평가에는 WikiText-2를, 하류 NLU 성능 평가는 GLUE 벤치마크를 사용한다.
• 모델들은 탈편향 기법을 적용하여 미세조정하고, BERT, ALBERT, RoBERTa 및 GPT-2에서 편향, 언어 모델링 및 NLU 작업에 대해 평가한다.
• 정확성과 통계적 신뢰성을 확보하기 위해 결과는 세 개의 랜덤 시드 평균을 통해 산출된다.

실험 결과

연구 질문

• RQ1 사전 훈련된 언어 모델에서 성별, 인종 및 종교적 편향을 줄이는 데 가장 효과적인 탈편향 기법은 무엇인가?
• RQ2 WikiText-2에서 퍼플렉서티 측정 시 탈편향이 언어 모델링 능력에 어떤 영향을 미치는가?
• RQ3 GLUE 벤치마크로 측정했을 때 탈편향이 하류 자연어 이해(NLU) 작업 성능을 떨어뜨리는가?

주요 결과

• Self-Debias는 SEAT, StereoSet 및 CrowS-Pairs의 세 내재적 편향 벤치마크에서 모두 가장 강력한 편향 감소 효과를 보였다.
• 탈편향 기법은 언어 모델링 능력을 일관되게 저하시키며, 모델 간 평균 퍼플렉서티가 최대 2.11 포인트 상승했다.
• 언어 모델링 성능 저하에도 불구하고 GLUE 벤치마크에서 하류 NLU 작업 성능은 대부분 안정되어 있었으며, 평균 F1 및 정확도 점수는 최소한의 저하를 보였다.
• 현재 탈편향 기법은 성별 외 편향(예: 인종 및 종교적 편향)을 완화할 때 일관성 있게 작동하지 않으며, 다양한 벤치마크 간 성능 변동성이 크다.
• StereoSet 및 CrowS-Pairs와 같은 편향 벤치마크에서의 성능 향상은 종종 언어 모델링 성능 저하와 함께 나타나, 편향 완화와 모델 유창성 사이의 상충 관계를 시사한다.