[논문 리뷰] Mitigating Gender Bias in Machine Translation through Adversarial Learning

Eve Fleisig, Christiane Fellbaum|arXiv (Cornell University)|2022. 03. 20.

Hate Speech and Cyberbullying Detection인용 수 4

한 줄 요약

이 논문은 대규모 언어 모델의 피니튜닝 중에 성별 적대자(advantage)를 훈련시켜 신경 기계 번역(NMT)에서 성별 편향을 완화하는 적대적 학습 프레임워크를 제안한다. 성별 탐지 방법 두 가지인 성별 방향과 대명사 사용 방식을 사용하여, 남성 및 여성 실체 번역 간의 성별 편향 격차를 86–91% 감소시켰으며, 전체 번역 품질에 미치는 영향은 최소화했다.

ABSTRACT

Machine translation and other NLP systems often contain significant biases regarding sensitive attributes, such as gender or race, that worsen system performance and perpetuate harmful stereotypes. Recent preliminary research suggests that adversarial learning can be used as part of a model-agnostic bias mitigation method that requires no data modifications. However, adapting this strategy for machine translation and other modern NLP domains requires (1) restructuring training objectives in the context of fine-tuning pretrained large language models and (2) developing measures for gender or other protected variables for tasks in which these attributes must be deduced from the data itself. We present an adversarial learning framework that addresses these challenges to mitigate gender bias in seq2seq machine translation. Our framework improves the disparity in translation quality for sentences with male vs. female entities by 86% for English-German translation and 91% for English-French translation, with minimal effect on translation quality. The results suggest that adversarial learning is a promising technique for mitigating gender bias in machine translation.

연구 동기 및 목표

• 유해한 사회적 고정관념을 반복하는 신경 기계 번역 시스템의 성별 편향을 해결하기 위해.
• 모델에 종속되지 않고 데이터가 없는 방법을 개발하여, 피니튜닝된 대규모 언어 모델에 적용 가능한 편향 완화 기법을 제안하기 위해.
• 성별이 사전 레이블링되지 않은 NLP 작업에서 보호 변수로 성별을 정의하고 측정하기 위해.
• 번역에서 표현적 편향과 할당적 편향을 줄이기 위해 적대적 학습의 효과를 평가하기 위해.
• 편향 완화가 전체 번역 성능을 떨어뜨리지 않도록 보장하기 위해.

제안 방법

• 성별을 보호 변수로 추론하기 위한 두 가지 방법을 도입: 단어 임베딩에서 유도한 성별 부분공간을 사용하는 성별 방향 방법과, 성별 대명사 패턴을 추적하는 대명사 사용 방법.
• 피니튜닝 중 모델의 은닉 표현에서 성별을 예측하는 적대적 판별기(advversarial discriminator)를 훈련시킴.
• 주 번역 모델을 최적화하여 적대자의 성별 예측 능력을 최소화함으로써, 성별에 영향을 받지 않는 표현을 유도함.
• T5 기반의 시퀀스 투 시퀀스 모델을 대상으로 영어-독어 및 영어-프랑스어 번역에 대해 피니튜닝 중 프레임워크를 적용함.
• 스테로타입 및 반스테로타입 직업 표현에 대해 성별 편향을 평가하기 위해 WinoMT 데이터셋을 사용함.
• 편향 감소와 번역 품질을 정량화하기 위해 F1 점수 격차와 정확도 지표를 활용함.

실험 결과

연구 질문

• RQ1 성별이 사전 레이블링되지 않은 대규모 언어 모델에서 보호 변수로 효과적으로 정의되고 측정될 수 있는 방법은 무엇인가?
• RQ2 현대 NLP 시스템의 사전 훈련/피니튜닝 파라다임에 적대적 학습을 성공적으로 적용할 수 있는가?
• RQ3 적대적 훈련이 번역 품질을 떨어뜨리지 않으면서 성별 편향을 어느 정도 감소시킬 수 있는가?
• RQ4 성별 탐지 방법 중 성별 방향과 대명사 사용 방식은 편향 완화 효과에서 어떻게 비교되는가?
• RQ5 적대적 훈련을 통한 편향 완화가 일반화 능력이나 번역의 견고성(로버스트니)을 향상시키는가?

주요 결과

• 성별 방향 방법은 영어-독어 번역에서 성별 편향 격차를 86% 감소시키고, 영어-프랑스어 번역에서는 91% 감소시켰다.
• 대명사 사용 방법은 남성 및 여성 실체 번역 간의 F1 점수 격차를 줄였으며, 평균적으로 편향 격차를 75% 감소시켰다.
• 대부분의 경우 번역 정확도가 약간 향상되어, 편향 완화가 일반화 성능 향상에 기여할 수 있음을 시사한다.
• 적대적 훈련 후, 실체의 성별을 더 높은 정확도로 유지하는 것으로 나타났다.
• 모델는 BLEU 및 기타 표준 지표에서 유의미한 품질 저하 없이 높은 번역 품질을 유지했다.
• 두 성별 탐지 방법 모두 할당적 편향과 표현적 편향을 효과적으로 감소시켰으며, 성별 방향 방법은 더 강력하지만 일관성은 떨어지는 결과를 보였다.