[논문 리뷰] Black is to Criminal as Caucasian is to Police: Detecting and Removing Multiclass Bias in Word Embeddings

Thomas Manzini, Yao Chong Lim외 2명|arXiv (Cornell University)|2019. 04. 03.

Text Readability and Simplification인용 수 4

한 줄 요약

이 논문은 워드 임베딩에서의 편향 제거를 다중 클래스로 일반화하는 방법을 제안하며, Bolukbasi 등 (2016)의 양성별 성별 편향 제거 기법을 인종과 종교로 확장한다. 새로운 평가 지표(MAC 점수)를 도입하여, 다중 클래스 편향 제거가 유용성과 다운스트림 NLP 작업(예: NER 및 POS 분할)을 유지하면서 편향을 크게 감소시킴을 보여준다.

ABSTRACT

Online texts -- across genres, registers, domains, and styles -- are riddled with human stereotypes, expressed in overt or subtle ways. Word embeddings, trained on these texts, perpetuate and amplify these stereotypes, and propagate biases to machine learning models that use word embeddings as features. In this work, we propose a method to debias word embeddings in multiclass settings such as race and religion, extending the work of (Bolukbasi et al., 2016) from the binary setting, such as binary gender. Next, we propose a novel methodology for the evaluation of multiclass debiasing. We demonstrate that our multiclass debiasing is robust and maintains the efficacy in standard NLP tasks.

연구 동기 및 목표

• 기존의 편향 제거 방법이 성별과 같이 이진 대사 정보만 다루는 데에 한계가 있음을 해결한다.
• 실제 세계 텍스트 코퍼스에서 학습함으로써 발생하는 인종 및 종교와 같은 다중 클래스 편향을 탐지하고 완화한다.
• 다양한 민족적 집단에 걸쳐 편향 감소를 측정하기 위한 견고한 평가 프레임워크를 개발한다.
• 편향 제거 후에도 임베딩의 의미적 유용성을 유지하여 표준 NLP 작업과의 호환성을 확보한다.
• 다중 클래스 편향 제거가 다양한 NLP 응용 분야에서 통계적으로 유의미하고 효과적임을 입증한다.

제안 방법

• Bolukbasi 등 (2016)의 이진 성별 편향 제거 프레임워크를 인종과 종교와 같은 다중 클래스 설정으로 일반화한다.
• 다양한 민족적 집단(예: 인종 또는 종교적 스테레오타입)을 나타내는 단어 집합을 사용해 다중 클래스 편향 부분공간을 식별한다.
• 중립 단어에서 편향 성분을 투영 제거하고, 동등 집합 내 단어의 임베딩을 등가화함으로써 하드 편향 제거를 적용한다.
• 다중 클래스 편향 감소를 평가하기 위해 새로운 지표인 다중 클래스 평균 코사인(MAC) 점수를 사용한다.
• Reddit L2 코퍼스에서 word2vec 임베딩을 학습하고, 사회과학 및 NLP 편향 연구에서 유래한 어휘집을 사용해 편향 제거를 적용한다.
• POS 태깅, NER, POS 분할 작업에서의 성능을 평가하여 유용성 유지 여부를 점검한다.

실험 결과

연구 질문

• RQ1 성별과 같은 이진 민족적 특성에 대해 설계된 기존의 편향 제거 프레임워크가 인종과 종교와 같은 다중 클래스 민족적 특성으로 효과적으로 확장될 수 있는가?
• RQ2 두 개가 아닌 다수의 민족적 집단에 걸쳐 워드 임베딩의 편향을 어떻게 측정하고 평가할 수 있는가?
• RQ3 표준 NLP 작업 성능이 저하되지 않도록 다중 클래스 편향 제거가 스테레오타입적 유사성(예: Black → Criminal, Caucasian → Police)을 감소시키는가?
• RQ4 편향 부분공간이 다양한 민족적 집단에 걸쳐 일관된 편향 제거를 지원할 정도로 충분히 견고한가?
• RQ5 편향 제거가 다운스트림 NLP 응용 분야에서 워드 임베딩의 의미적 유용성을 어느 정도 유지하는가?

주요 결과

• 제안된 다중 클래스 편향 제거 방법은 MAC 점수가 1.0에 가까워지고 통계적으로 유의미한 p-값을 보이며 편향 감소가 뚜렷하게 이루어짐을 입증한다.
• 편향 제거로 인해 'Black → Criminal' 및 'Muslim → Warzone'와 같은 스테레오타입적 유사성의 감소가 명백하게 관측되어 편향 완화가 확인된다.
• NER 및 POS 분할 작업에서 편향 제거 후 성능이 향상되었으며, POS 태깅은 소량의 성능 저하가 있었지만 대부분 유의미하지 않다.
• 표준 NLP 작업에서의 성능 저하가 최소한이므로, 편향 제거 후에도 의미적 유용성이 유지됨을 확인할 수 있다.
• MAC 점수의 통계적 유의미한 변화로 인해 편향 부분공간이 일관된 편향 제거를 지원할 정도로 충분히 견고함을 확인하였다.
• 편향 성분을 제거함에도 불구하고, 군집 수준의 편향(예: 단어 주변부에서 유사한 편향)은 여전히 존재하여 성분 기반 편향 제거의 한계를 보여주며, 이는 Gonen 과 Goldberg (2019)의 결과와 일치한다.