[논문 리뷰] Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning

Haochen Liu, Wentao Wang외 4명|arXiv (Cornell University)|2020. 09. 28.

Topic Modeling참고 문헌 30인용 수 4

한 줄 요약

이 논문은 신경 대화 생성에서 성별 편향을 완화하기 위해 비편향된 성별 특징(예: '아름다운 남자')을 편향된 특징(예: 스테레오타입적 가정)에서 분리함으로써, 응답 품질이나 다양성을 희생시키지 않고 다양한, 공정하고 맥락에 적합한 응답을 생성할 수 있도록 하는 적대적 학습 프레임워크인 Debiased-Chat을 제안한다. 두 개의 실세계 데이터셋에서의 실험을 통해 응답 참여도와 성별 특이성은 유지하면서도 편향이 크게 감소하는 것으로 나타났다.

ABSTRACT

Dialogue systems play an increasingly important role in various aspects of our daily life. It is evident from recent research that dialogue systems trained on human conversation data are biased. In particular, they can produce responses that reflect people's gender prejudice. Many debiasing methods have been developed for various NLP tasks, such as word embedding. However, they are not directly applicable to dialogue systems because they are likely to force dialogue models to generate similar responses for different genders. This greatly degrades the diversity of the generated responses and immensely hurts the performance of the dialogue models. In this paper, we propose a novel adversarial learning framework Debiased-Chat to train dialogue models free from gender bias while keeping their performance. Extensive experiments on two real-world conversation datasets show that our framework significantly reduces gender bias in dialogue models while maintaining the response quality. The implementation of the proposed framework is released.

연구 동기 및 목표

• 인간이 생성한 대화 데이터로 훈련된 신경 대화 시스템에서 성별 편향 문제에 대한 우려가 증가하고 있는 데에 대응하기 위해.
• 유의미한 성별 특징을 유지하면서 유해한 스테레오타입을 제거하는 탈편향 기법을 개발하기 위해.
• 기존의 탈편향 기법들이 성별 간 동일한 출력을 강제함으로써 응답 다양성을 감소시키는 한계를 극복하기 위해.
• 남성 및 여성과 관련된 입력에 대해 구분되며 공정하고 맥락에 부합하는 응답을 생성할 수 있도록 하는 프레임워크를 설계하기 위해.

제안 방법

• 대화 응답 내에서 비편향된 성별 특징(예: '아름다운 남자', '아름다운 여자')과 편향된 성별 특징(예: 스테레오타입적 가정)의 개념을 도입한다.
• 성별 관련 발언 내에서 비편향된 특징과 편향된 특징을 분리하는 분리 모델을 설계한다.
• 편향된 성별 특징을 탐지하도록 훈련된 판별자와, 비편향된 특징을 유지하면서 편향을 최소화하도록 훈련되는 생성자를 갖춘 적대적 훈련 프레임워크를 구성한다.
• 응답 생성 손실, 분리 손실, 적대적 손실을 조합한 손실 함수를 사용하여 공정성과 응답 품질의 균형을 이루도록 대화 모델을 훈련한다.
• 분리 모듈을 사용해 응답 내에서 합리적인 성별 특수어를 식별하고 유지함으로써, 편향 없이 성별 차이를 유지한다.
• 단일턴 설정에서 시퀀스-투-시퀀스 대화 모델에 프레임워크를 적용하여 '대화 주제' 차원에서의 편향을 완화한다.

실험 결과

연구 질문

• RQ1 응답 품질이나 다양성이 떨어지지 않도록 신경 대화 모델의 성별 편향을 줄일 수 있는가?
• RQ2 스테레오타입적 또는 편향된 연관성을 제거하면서도 의미 있는 비편향된 성별 특징을 대화 응답에 유지할 수 있는가?
• RQ3 기존의 탈편향 기법과 비교해 복수의 성별 편향을 줄이기 위해 적대적 학습과 분리 기법이 얼마나 공정성 향상에 기여하는가?
• RQ4 실세계 대화 데이터셋에서 편향을 줄이면서도 응답 참여도와 성별 특이성을 유지하는가?

주요 결과

• Debiased-Chat 프레임워크는 공정성 메트릭을 측정한 결과, 두 개의 실세계 데이터셋에서 대화 모델의 성별 편향을 크게 감소시켰다.
• 모델은 공정하고 다양한 응답을 생성하여, 기존의 탈편향 기법에서 관찰되는 성별 간 응답의 동질화를 피한다.
• Debiased-Chat이 생성한 응답은 '아름다운 남자', '아름다운 여자'와 같은 합리적인 성별 특수어를 유지하면서도 편향된 표현을 제거한다.
• CDA 및 WER와 같은 베이스라인 모델들이 다양한 성별에 대해 동일하고 지루한 응답을 생성하는 데 반해, Debiased-Chat은 맥락적이고 성별 특수어를 유지한다.
• 분리 모델은 비편향된 성별 특징을 성공적으로 식별하고 유지하여 생성자가 구분되며 공정하고 맥락에 부합하는 응답을 생성할 수 있도록 한다.
• 적대적 훈련 구성 요소는 판별자가 편향된 특징을 탐지할 능력을 효과적으로 감소시켜, 모델의 편향에 대한 강건성을 확인한다.