[논문 리뷰] On Transferability of Bias Mitigation Effects in Language Model Fine-Tuning

Xisen Jin, Francesco Barbieri외 4명|arXiv (Cornell University)|2020. 10. 24.

Hate Speech and Cyberbullying Detection참고 문헌 14인용 수 4

한 줄 요약

이 논문은 상游 편집에서 사전학습된 언어 모델의 편향을 줄이는 데 초점을 맞춘 전이학습 접근법인 상游 편향 완화(UBM)를 제안한다. 이는 추가적인 완화 없이도 하류 모델이 감소된 편향을 물려받을 수 있도록 한다. 혐오 발언, 독성, 직업 예측, 공호성 해결 등 다양한 실험에서 UBM은 직접 편집 또는 일반적인 전이 대비 하류 작업에서 편향을 크게 줄이는 것으로 나타났으며, 편향 완화 효과의 전이성이 입증되었다.

ABSTRACT

Fine-tuned language models have been shown to exhibit biases against protected groups in a host of modeling tasks such as text classification and coreference resolution. Previous works focus on detecting these biases, reducing bias in data representations, and using auxiliary training objectives to mitigate bias during fine-tuning. Although these techniques achieve bias reduction for the task and domain at hand, the effects of bias mitigation may not directly transfer to new tasks, requiring additional data collection and customized annotation of sensitive attributes, and re-evaluation of appropriate fairness metrics. We explore the feasibility and benefits of upstream bias mitigation (UBM) for reducing bias on downstream tasks, by first applying bias mitigation to an upstream model through fine-tuning and subsequently using it for downstream fine-tuning. We find, in extensive experiments across hate speech detection, toxicity detection, occupation prediction, and coreference resolution tasks over various bias factors, that the effects of UBM are indeed transferable to new downstream tasks or domains via fine-tuning, creating less biased downstream models than directly fine-tuning on the downstream task or transferring from a vanilla upstream model. Though challenges remain, we show that UBM promises more efficient and accessible bias mitigation in LM fine-tuning.

연구 동기 및 목표

• 상유 편집 단계에서 편향 완화를 적용한 후 하류 모델의 편향을 재완화 없이 줄일 수 있는지 조사하기 위해.
• 민감한 속성 주석과 맞춤형 공정성 지표가 필요한 작업별 편향 완화의 비효율성과 접근성 부족 문제를 해결하기 위해.
• 단일 상유 모델이 다수의 편향 요인을 완화하고 이러한 이점을 다양한 하류 작업 및 도메인으로 전이할 수 있는지 평가하기 위해.
• 상유 편향 감소를 하류 맞춤화에서 분리함으로써 NLP에서 더 효율적이고 접근 가능한 편향 완화를 가능하게 하기 위해.

제안 방법

• 사전학습된 언어 모델을 하나 이상의 상유 데이터셋에서 편집할 때 편향 완화 목표를 적용하여 편향이 제거된 인코더를 생성하기 위해.
• 상유 편집 후 분류 헤드를 재초기화하여 하류 적응이 상유 작업과 독립적이게 하기 위해.
• 추가적인 편향 완화 없이도 하류 작업에서 새로운 분류 헤드를 사용해 상유로 디버이스된 인코더를 편집하기 위해.
• 상유 편향 완화가 하류 훈련에서 허수적 특징에 대한 모델 민감도를 어떻게 줄이는지 측정하기 위해 기울기 기반 중요도 분석을 사용하기 위해.
• 상유 완화에서 유도된 인식적 편향을 활용하여 하류 훈련 중 편향된 표현에 대한 기울기 업데이트를 줄이기 위해.
• 표준 공정성 지표와 기울기 노름을 사용해 작업 및 도메인 간 전이성을 평가하고 편향 감소의 안정성을 평가하기 위해.

실험 결과

연구 질문

• RQ1 상유 단계에서 단일 편향 요인을 완화하면, 동일한 도메인과 작업에서 새로운 예시를 편집할 때도 감소된 편향을 유지할 수 있는가?
• RQ2 상유 편향 완화는 상유 설정과 다를 수 있는 하류 작업 및 도메인으로 전이 가능한가?
• RQ3 단일 상유 모델이 다수의 편향 유형을 완화하고 이러한 효과를 다양한 하류 응용에 전이할 수 있는가?
• RQ4 하류 훈련 중에 허수적 특징에 대한 기울기 업데이트가 상유 편향 완화로 얼마나 줄어드는가?

주요 결과

• UBM은 혐오 발언 탐지, 독성 탐지, 직업 예측, 공호성 해결 작업 전반에서 하류 모델의 편향을 크게 줄였다.
• UBM은 공정성 지표 측면에서 직접 하류 훈련 또는 일반적인 상유 모델에서의 전이보다 우수한 성능을 보였다.
• 편향된 표현의 기울기 노름이 하류 훈련 전반에 걸쳐 낮게 유지되어, 허수적 특징에 대한 민감도가 감소한 것으로 나타났다.
• UBM 모델에서 모델 예측의 허수적 패턴 중요도가 일관되게 낮게 유지되어, 편향된 특징에 대한 의존도가 감소한 것으로 확인되었다.
• UBM은 하류 작업 및 도메인이 상유 작업과 다를 경우에도 전이성이 있음을 보였지만, 다중편향 설정에서는 성능이 덜 안정적인 편이었다.
• 기울기 분석을 통해 UBM이 편향된 표현에 대한 기울기 크기를 줄여 더 안정적이고 공정한 하류 최적화 경로를 제공하는 것으로 확인되었다.