[논문 리뷰] Grammatical gender associations outweigh topical gender bias in crosslinguistic word embeddings

Katherine McCurdy, Oguz Serbetçi|arXiv (Cornell University)|2020. 05. 18.

Authorship Attribution and Profiling참고 문헌 8인용 수 16

한 줄 요약

이 연구는 다국어 단어 임베딩에서 성별 편향을 조사하며, 문법적 성별 연관성—언어 문법에 기반한 단어와 성별 간의 체계적 연관성—이 주제적 성별 편향(예: 직업과 관련된 전통적 성별 연관성)보다 단어 벡터 표현에 더 강한 영향을 미친다는 것을 발견한다. 형태소 분석을 통해 변화형 변동성을 줄임으로써, 저자들은 두 유형의 편향을 크게 줄일 수 있음을 보여주며, 다국어 임베딩에서 문법적 성별 효과가 편향의 주요 원인임을 확인한다.

ABSTRACT

Recent research has demonstrated that vector space models of semantics can reflect undesirable biases in human culture. Our investigation of crosslinguistic word embeddings reveals that topical gender bias interacts with, and is surpassed in magnitude by, the effect of grammatical gender associations, and both may be attenuated by corpus lemmatization. This finding has implications for downstream applications such as machine translation.

연구 동기 및 목표

• 다국어 단어 임베딩에서 문법적 성별 연관성과 주제적 성별 편향의 상대적 영향을 조사하기 위해.
• 코퍼스 형태소 분석이 다국어 임베딩 모델에서 이러한 성별 편향의 크기에 어떤 영향을 미치는지 평가하기 위해.
• 기계 번역과 같은 후행 NLP 응용 분야에서 이러한 편향의 함의를 평가하기 위해.
• 단어 벡터 표현에서 문법적 성별 효과와 전통적 주제적 연관성의 상대적 강도를 비교하기 위해.

제안 방법

• 저자들은 다국어 단일어 및 병렬 코퍼스를 사용하여 다국어 단어 임베딩을 훈련시었으며, 성별이 부여된 명사와 그에 관련된 형용사에 초점을 맞췄다.
• 성별 편향은 성별이 부여된 단어와 성별 개념 간의 방향성 유사도를 측정하여 정량화하였다(예: '간호사'와 '남성/여성' 사이의 유사도).
• 문법적 성별 편향은 변화형 언어(예: 프랑스어, 독일어)에서 성별이 부여된 명사 형태와 성별이 부여된 형용사 간의 연관성을 평가하여 측정하였다.
• 주제적 성별 편향은 성별이 부여된 직업과 전통적 성별 어휘 간의 연관성으로 평가하였다(예: '의사'와 '남성'의 연관성).
• 형태소 분석을 통해 변화형 변동성을 줄임으로써, 문법적 성별이 벡터 표현에 미치는 영향을 최소화하였다.
• 다양한 언어에서의 벡터 유사도 점수를 통계적으로 비교하여 두 편향 유형의 상대적 강도를 비교하였다.

실험 결과

연구 질문

• RQ1 다국어 단어 임베딩에서 문법적 성별 연관성의 크기는 주제적 성별 편향보다 얼마나 큰가?
• RQ2 코퍼스 형태소 분석은 다국어 임베딩에서 문법적 성별 편향과 주제적 성별 편향을 어느 정도 감소시키는가?
• RQ3 다국어 모델의 단어 벡터 표현에서, 문법적 성별 효과와 주제적 성별 편향 중 어느 것이 더 강한 영향을 미치는가?
• RQ4 이러한 편향은 기계 번역과 같은 후행 NLP 응용의 성능과 공정성에 어떻게 영향을 미치는가?

주요 결과

• 다국어 임베딩에서 문법적 성별 연관성이 주제적 성별 편향보다 단어 벡터 표현에 훨씬 더 강한 영향을 미친다.
• 프랑스어, 독일어, 스페인어를 포함한 여러 언어에서 문법적 성별 편향의 크기가 주제적 편향보다 항상 높았다.
• 형태소 분석을 통해 두 유형의 편향이 모두 감소하였지만, 특히 문법적 성별 연관성의 감소 효과가 가장 뚜렷했다.
• 형태소 분석 이후 남은 편향은 주로 주제적 성별 고정관념에 기인해 있었으며, 이는 문법적 성별이 편향의 주요 원천임을 시사한다.
• 결과는 문법적 성별 효과가 데이터의 산물에 불과한 것이 아니라, 다국어 단어 임베딩의 구조에 깊이 뿌리내려져 있음을 시사한다.
• 이러한 발견들은 다국어 NLP 시스템의 전체 편향을 줄이기 위해 문법적 성별 편향을 반드시 완화해야 한다는 것을 시사한다.