[논문 리뷰] Mitigating Gender Bias in Natural Language Processing: Literature Review

Tony Sun, Andrew Gaut외 8명|arXiv (Cornell University)|2019. 06. 21.

Hate Speech and Cyberbullying Detection참고 문헌 56인용 수 41

한 줄 요약

이 논문은 NLP에서의 성별 편향 인식 및 완화를 조사하고, 표현 편향의 네 가지 형태를 분류하며, 편향 제거 방법을 검토하고, 이들의 장점, 단점 및 향후 연구 방향을 논의합니다.

ABSTRACT

As Natural Language Processing (NLP) and Machine Learning (ML) tools rise in popularity, it becomes increasingly vital to recognize the role they play in shaping societal biases and stereotypes. Although NLP models have shown success in modeling various applications, they propagate and may even amplify gender bias found in text corpora. While the study of bias in artificial intelligence is not new, methods to mitigate gender bias in NLP are relatively nascent. In this paper, we review contemporary studies on recognizing and mitigating gender bias in NLP. We discuss gender bias based on four forms of representation bias and analyze methods recognizing gender bias. Furthermore, we discuss the advantages and drawbacks of existing gender debiasing methods. Finally, we discuss future studies for recognizing and mitigating gender bias in NLP.

연구 동기 및 목표

• NLP에서의 성별 편향 연구와 그것이 사회에 미치는 영향에 대한 동기를 제시한다.
• NLP에서의 표현 편향의 형태를 식별하고 분류한다.
• NLP 시스템에서 성별 편향을 인식하는 방법을 고찰한다.
• 기존의 성별 편향 제거 기법의 장점과 단점을 평가한다.
• NLP에서 성별 편향의 인식 및 완화에 대한 향후 연구 방향을 제시한다.

제안 방법

• 현대 NLP 편향 연구에 대한 문헌 검토를 수행한다.
• 표현 편향을 네 가지 형태로 분류한다.
• 성별 편향 인식 및 완화 방법을 분석한다.
• 편향 제거 접근법의 장점과 단점을 논의한다.
• 편향 인식 및 완화에 대한 향후 연구 방향을 제안한다.

실험 결과

연구 질문

• RQ1 NLP에서의 표현 편향의 네 가지 형태는 무엇인가?
• RQ2 NLP 모델 및 출력에서 성별 편향을 인식하기 위해 어떤 방법들이 존재하는가?
• RQ3 기존의 성별 편향 제거 기법의 장점과 단점은 무엇인가?
• RQ4 NLP에서 성별 편향의 인식 및 완화에 유망한 향후 연구 방향은 무엇인가?

주요 결과

• NLP에서 표현 편향의 네 가지 형태를 식별하고 개요를 제시한다.
• NLP 시스템에서 성별 편향을 인식하는 방법을 검토한다.
• 현재의 성별 편향 제거 접근법의 장단점을 분석한다.
• 편향 완화에 대한 한계와 향후 연구 방향의 잠재적 가능성에 대해 논의한다.