[논문 리뷰] Robustness and Reliability of Gender Bias Assessment in Word Embeddings: The Role of Base Pairs

Haiyang Zhang, Alison Sneyd외 1명|arXiv (Cornell University)|2020. 10. 06.

Hate Speech and Cyberbullying Detection참고 문헌 31인용 수 17

한 줄 요약

이 논문은 성별 편향 평가의 신뢰성에 도전하며, (man, woman) 또는 (she, he)와 같은 성별 기반 쌍에 의존할 경우 잘못된, 비내구적인 편향 측정 결과가 유도된다는 점을 입증한다. 일반적으로 인용되는 유사어 관계인 'man is to computer programmer as woman is to homemaker'는 사회적 편견이 아니라 높은 벡터 유사도의 산물임을 보여주며, 이는 현재의 편향 탐지 및 제거 기법의 타당성을 떨어뜨린다.

ABSTRACT

It has been shown that word embeddings can exhibit gender bias, and various methods have been proposed to quantify this. However, the extent to which the methods are capturing social stereotypes inherited from the data has been debated. Bias is a complex concept and there exist multiple ways to define it. Previous work has leveraged gender word pairs to measure bias and extract biased analogies. We show that the reliance on these gendered pairs has strong limitations: bias measures based off of them are not robust and cannot identify common types of real-world bias, whilst analogies utilising them are unsuitable indicators of bias. In particular, the well-known analogy "man is to computer-programmer as woman is to homemaker" is due to word similarity rather than societal bias. This has important implications for work on measuring bias in embeddings and related work debiasing embeddings.

연구 동기 및 목표

• 정의된 성별 기반 쌍에 의존하는 워드 임베딩의 성별 편향 측정 방법의 내구성과 신뢰성 평가
• 이러한 편향 측정 방법이 실제 사회적 성별 고정관념을 정확히 반영하는지, 아니면 단지 벡터 유사도의 산물인지 탐구
• 성별 기반 쌍을 사용해 생성된 유사어 관계가 워드 임베딩의 편향을 나타내는 유효한 지표인지 평가
• 벡터 차이가 성별을 반영한다고 가정하는 것에 도전하며, 이는 편향 제거 기법에 미치는 영향 분석
• 현재 편향 측정 프레임워크의 한계를 강조하고 자연어 처리의 공정성 연구에서 더 엄격하고 맥락 인식형 평가 방법을 권장

제안 방법

• 저자는 널리 사용되는 네 가지 성별 편향 측정 방법—직접 편향(Direct Bias, DB), 워드 임베딩 연상 테스트(Word Embedding Association Test, WEAT), 워드 연상(Word Association, WA), 성별 편향 점수(Gender Bias Score, GBS)—를 표준화된 성별 기반 쌍 세트를 사용해 평가한다.
• 내구성 평가를 위해 세 가지 기준을 적용: 기반 쌍 선택에 대한 민감도, 복수형/단수형 어형 간 일관성, 사회적 고정관념에 기반한 성별 역할을 정확히 예측할 수 있는 능력.
• 벡터 간 관계 분석을 위해 코사인 유사도를 사용하며, 'man is to X as woman is to Y'와 같은 유사어 관계가 성별 때문인지 유사도 때문인지 테스트한다.
• Google 유사어 테스트 세트를 분석하여 성별 기반 쌍을 사용한 유사어 관계가 얼마나 자주 정확히 해결되는지 평가하며, 높은 유사도가 정답을 이끄는 주요 원인임을 드러낸다.
• 성별 기반 쌍 간(예: man–woman, she–he)과 대상어휘 쌍 간(예: computer programmer–homemaker)의 코사인 유사도를 계산하여, 높은 유사도가 주요 요인임을 입증한다.
• 논문은 'man is to computer programmer as woman is to homemaker'라는 유사어 관계가 성별 편향 때문이 아니라, 'computer programmer'와 'homemaker' 간의 높은 벡터 유사도(0.50) 덕분임을 입증한다.

실험 결과

연구 질문

• RQ1 성별 편향 측정 방법이 성별 기반 쌍의 선택에 얼마나 의존하는가? 이는 그 방법의 신뢰성에 어떤 영향을 미치는가?
• RQ2 성별 편향 측정 방법이 인간의 성격 특성이나 언어적으로 표현된 성별(예: lioness)에 대해 사회적 고정관념에 기반한 성별을 정확히 예측할 수 있는가?
• RQ3 성별 기반 쌍을 사용해 생성된 유사어 관계는 워드 임베딩의 성별 편향을 유효한 지표로 삼을 수 있는가?
• RQ4 어휘 간 벡터 유사도가 성별 기반 유사어 관계의 성공에 어떤 역할을 하는가? 이 유사도는 편향 때문이 아니라 노이즈 때문인가?
• RQ5 이 분석 결과는 기반 쌍 기반의 편향 탐지에 의존하는 현재의 편향 제거 기법의 타당성을 어떻게 도전하는가?

주요 결과

• 성별 편향 측정 결과는 기반 쌍의 선택에 매우 민감하며, 예를 들어 (she, he)와 (woman, man) 간의 선택에 따라 달라지므로 내구성이 떨어짐을 시사한다.
• 편향 측정 방법은 인간의 성격 특성에 대한 사회적 고정관념된 성별을 정확히 식별하지 못하며(예: 일부 측정 방법에서 'nurse'를 여성으로 잘못 분류), 언어적으로 표현된 성별(예: 'lioness')을 일관되게 인식하지 못함.
• 일반적으로 인용되는 'man is to computer programmer as woman is to homemaker'라는 유사어 관계는 성별 편향의 증거가 아니라, 'computer programmer'와 'homemaker' 간의 높은 코사인 유사도(0.50) 덕분이며, 이는 성별과 무관함.
• 성별 기반 쌍 간의 코사인 유사도(예: 'man'과 'woman')는 매우 높은 편(0.77)이며, 이는 무작위 어휘 쌍 평균 유사도(0.13)보다 크게 높아, 많은 유사어 결과가 성별이 아닌 유사도에 기인함을 시사한다.
• 성별 기반 쌍을 사용한 유사어 관계는 성별 관계 때문이 아니라, 대상어휘 간의 벡터 유사도 덕분에 자주 정확히 해결됨을 확인함. 비성별 어휘 쌍에 대해 Google 유사어 테스트 세트에서 22%의 성공률 기록.
• Bolukbasi 등(2016)이 제안한 유사어 관계 생성 방법은 ||x−y||=1 조건을 요구함으로써 x와 y 간의 유사도를 강제로 유도하므로, 결과는 유사도에 의해 예측 가능할 뿐 성별 의미에 기반하지 않아, 이 방법은 잘못된 것으로 드러남.