[논문 리뷰] Balancing out Bias: Achieving Fairness Through Training Reweighting.

Xudong Han, Timothy Baldwin외 1명|arXiv (Cornell University)|2021. 09. 16.

Topic Modeling참고 문헌 35인용 수 9

한 줄 요약

이 논문은 작업 레이블과 저자 인구통계 빈도를 기반으로 한 인스턴스 재가중 기법과, 인구통계 정보를 사용해 편향이 제거된 예측을 생성하는 게이트드 모델을 조합한 단순하면서도 효과적인 편향 완화 방법을 제안한다. 이 방법은 저자 인구통계와 언어적 특징 간의 상관관계를 직접적으로 다룸으로써 기존 기법들보다 뛰어나게 성능을 발휘하며, 소수 집단 간 오차율 격차를 크게 감소시킨다.

ABSTRACT

Bias in natural language processing arises primarily from models learning characteristics of the author such as gender and race when modelling tasks such as sentiment and syntactic parsing. This problem manifests as disparities in error rates across author demographics, typically disadvantaging minority groups. Existing methods for mitigating and measuring bias do not directly account for correlations between author demographics and linguistic variables. Moreover, evaluation of bias has been inconsistent in previous work, in terms of dataset balance and evaluation methods. This paper introduces a very simple but highly effective method for countering bias using instance reweighting, based on the frequency of both task labels and author demographics. We extend the method in the form of a gated model which incorporates the author demographic as an input, and show that while it is highly vulnerable to input data bias, it provides debiased predictions through demographic input perturbation, and outperforms all other bias mitigation techniques when combined with instance reweighting.

연구 동기 및 목표

• 저자 인구통계(예: 성별, 인종)와 언어 패턴 간의 상관관계에서 기인하는 NLP 모델의 편향을 해결하기 위해.
• 기존의 편향 완화 및 평가 기법들이 종종 인구통계-언어적 특징 상관관계를 忽시하고 있으며, 데이터셋 균형 및 평가 프로토콜에서 일관성이 부족한 점을 보완하기 위해.
• 작업 레이블과 저자 인구통계를 기반으로 하여 훈련 인스턴스를 재가중함으로써 편향을 직접적으로 완화하는 방법을 개발하기 위해.
• 소수 집단, 특히 대표성이 부족한 소수 집단에서의 오차율 격차 감소 효과를 평가하기 위해.
• 편향된 데이터로 훈련된 상태에서도 인구통계 입력의 페르터베이션을 통해 게이트드 모델이 편향이 제거된 예측을 생성할 수 있음을 입증하기 위해.

제안 방법

• 모든 훈련 샘플에 대해 해당 작업 레이블의 빈도와 관련된 저자 인구통계 집단의 빈도를 기반으로 가중치를 할당하는 인스턴스 재가중 기법을 사용한다.
• 재가중 기법은 훈련 데이터에서 대표성이 부족한 인구통계 집단의 기여도를 균형 잡기 위해 적용되며, 이로 인해 주로 다수 집단에 대한 모델의 편향이 감소한다.
• 입력 시퀀스와 저자 인구통계를 모두 입력으로 받는 게이트드 모델을 도입하여, 모델이 인구통계적 맥락에 따라 예측을 조정할 수 있도록 한다.
• 재가중된 인스턴스로 훈련된 모델은 인구통계 특성에 대한 입력 페르터베이션을 사용하여 편향이 제거된 예측을 생성하며, 이는 추론 시 공정성 시뮬레이션을 효과적으로 수행한다.
• 이전 기법들이 종종 간과하는 저자 인구통계와 언어 변수 간의 상관관계를 명시적으로 모델링한다.
• 이 방법은 간단하고 효과적이며, 최소한의 아키텍처 변경으로도 공정성 지표를 크게 향상시킬 수 있도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 작업 레이블과 저자 인구통계를 모두 기반으로 한 재가중 기법이 NLP 모델의 편향 완화에 어떤 영향을 미치는가?
• RQ2 인구통계 입력을 갖는 게이트드 모델이 다양한 인구통계 집단 간 오차율 격차를 어느 정도 감소시킬 수 있는가?
• RQ3 인스턴스 재가중과 인구통계 입력 페르터베이션의 조합이 기존의 편향 완화 기법들에 비해 공정성과 성능 측면에서 어떻게 비교되는가?
• RQ4 인구통계-언어적 특징 상관관계를 忽시할 경우 편향 평가 및 완화에 어떤 영향을 미치는가?
• RQ5 간단하고 모듈러한 접근 방식이 정확도를 희생시키지 않고도 최신 기술 수준의 공정성을 달성할 수 있는가?

주요 결과

• 제안된 재가중 기법은 레이블과 인구통계 빈도를 기반으로 한 훈련 인스턴스 가중치 조정을 통해 다양한 인구통계 집단 간 오차율 격차를 크게 감소시킨다.
• 인구통계 입력 페르터베이션을 갖는 게이트드 모델은 훈련 데이터에 강한 인구통계 편향이 포함되어 있더라도 편향이 제거된 예측을 생성한다.
• 인스턴스 재가중과 결합된 이 방법은 모든 다른 편향 완화 기법들보다 공정성 지표 측면에서 뛰어나다.
• 이 방법은 이전 기법들이 종종 간과하는 저자 인구통계와 언어 변수 간의 상관관계를 효과적으로 반영한다.
• 주된 NLP 작업에서 경쟁적인 성능을 유지하면서도 뛰어난 공정성을 달성함으로써, 편향 완화가 정확도를 희생시키지 않음을 입증한다.