[논문 리뷰] Reducing Gender Bias in Word-Level Language Models with a Gender-Equalizing Loss Function

Yusu Qian, Urwa Muaz외 2명|arXiv (Cornell University)|2019. 05. 30.

Topic Modeling참고 문헌 10인용 수 8

한 줄 요약

이 논문은 손실 함수를 수정하여 남성과 여성의 대명사 및 직업어휘에 대한 예측 확률을 균형화함으로써 단어 수준의 언어 모델에 대한 성별 편향을 제거하는 방법을 제안한다. 이 방법은 퍼즐렉스티의 증가를 거의 유발하지 않으면서도 성별 편향을 크게 감소시키며, 특히 직업 관련 예측에서 두드러진 성과를 보이며 기존의 방법들(예: 데이터 증강, 단어 임베딩 편향 제거)을 뛰어넘고, 반사적 데이터 증강과 조합될 경우 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Gender bias exists in natural language datasets which neural language models tend to learn, resulting in biased text generation. In this research, we propose a debiasing approach based on the loss function modification. We introduce a new term to the loss function which attempts to equalize the probabilities of male and female words in the output. Using an array of bias evaluation metrics, we provide empirical evidence that our approach successfully mitigates gender bias in language models without increasing perplexity. In comparison to existing debiasing strategies, data augmentation, and word embedding debiasing, our method performs better in several aspects, especially in reducing gender bias in occupation words. Finally, we introduce a combination of data augmentation and our approach, and show that it outperforms existing strategies in all bias evaluation metrics.

연구 동기 및 목표

• 편향된 훈련 데이터에서 기인하는 신경망 기반 언어 모델의 성별 편향을 해결하기 위해.
• 모델 훈련 중 손실 함수 수정을 통해 편향 완화가 직접적으로 가능할지 탐구하기 위해.
• 사전 처리나 단어 임베딩 편향 제거에 의존하지 않고 종단 간 편향 제거의 효과를 평가하기 위해.
• 기존의 편향 제거 전략(예: 데이터 증강, 정규화 기반 임베딩 편향 제거)과 제안된 방법을 비교하기 위해.
• 이 접근 방식이 하류 NLP 응용 프로그램으로의 일반화 가능성에 대해 탐색하기 위해.

제안 방법

• 성별 대응어 쌍(예: he/she, father/mother)의 예측 확률 격차를 페널티로 삼는 성별 균형화 손실 항목을 도입한다.
• 손실 함수는 모델 출력 분포에서 성별 어휘의 로그 확률 격차를 최소화하도록 설계된다.
• 이 방법은 훈련 중 종단 간으로 적용되며, 전체 모델 파라미터를 조정하여 예측의 편향을 줄인다.
• 이 방법은 데이터 증강이나 단어 임베딩의 명시적 기하학적 편향 제거가 필요하지 않다.
• 편향 감소와 퍼즐렉스티 간의 트레이드오프를 최적화하기 위해 랜덤 서치를 통해 하이퍼파라미터 튜닝을 수행한다.
• 성능 향상을 위해 반사적 데이터 증강(CDA)과 조합된다.

실험 결과

연구 질문

• RQ1 훈련 중 손실 함수 수정을 통해 언어 모델의 성별 편향을 효과적으로 감소시킬 수 있는가?
• RQ2 데이터 증강 및 단어 임베딩 편향 제거와 비교해 손실 기반 편향 제거가 편향 감소 및 퍼즐렉스티 측면에서 어떻게 성과를 내는가?
• RQ3 손실 함수 수정을 통한 종단 간 편향 제거가 임베딩 수준 기법보다 더 견고하고 일반화 가능한 편향 완화를 이끌 수 있는가?
• RQ4 제안된 방법이 성별 고정관념의 주요 지표인 직업 관련 예측에서 얼마나 편향을 감소시키는가?
• RQ5 손실 기반 방법과 데이터 증강을 조합하면 더 뛰어난 편향 제거 성능을 낼 수 있는가?

주요 결과

• 하이퍼파라미터 값 λ = 1일 때, 이 방법은 직업 편향 지표 $CB|o$ 를 100% 감소시키고 $CB|g$ 는 98.52% 감소시킨다.
• 이 방법은 성별 편향 지표 $B^{N}$ 을 58.95% 감소시키고 $B_{c}^{N}$ 은 45.74% 감소시킨다.
• 이 방법은 임베딩 편향 지표 $EB_{d}$ 를 98.98% 감소시켜 REG 및 CDA를 모두 능가한다.
• 생성된 텍스트 전반에서 모델은 균형 잡힌 성별 비율(GR ≈ 1)을 유지하며, 성별 불균형의 효과적인 완화를 보여준다.
• 높은 λ 값일수록 퍼즐렉스티가 약간 증가하지만, 그 증가는 미미하며 모델의 유용성에 영향을 주지 않는다.
• 제안된 손실 함수와 반사적 데이터 증강(CDA)의 조합은 모든 편향 지표에서 모든 개별 방법을 능가하며 낮은 퍼즐렉스티를 유지한다.