[논문 리뷰] Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings

Tolga Bolukbasi, Kai-Wei Chang외 3명|arXiv (Cornell University)|2016. 07. 21.

Hate Speech and Cyberbullying Detection참고 문헌 33인용 수 1,357

한 줄 요약

이 논문은 단어 임베딩이 고정된 편향된 성별 편견을 강하게 보유하고 있으며, 편향을 줄이면서 군집 및 유추 성능과 같은 유용한 특성을 보존하는 임베딩 디바이싱 방법을 제시한다.

ABSTRACT

The blind application of machine learning runs the risk of amplifying biases present in data. Such a danger is facing us with word embedding, a popular framework to represent text data as vectors which has been used in many machine learning and natural language processing tasks. We show that even word embeddings trained on Google News articles exhibit female/male gender stereotypes to a disturbing extent. This raises concerns because their widespread use, as we describe, often tends to amplify these biases. Geometrically, gender bias is first shown to be captured by a direction in the word embedding. Second, gender neutral words are shown to be linearly separable from gender definition words in the word embedding. Using these properties, we provide a methodology for modifying an embedding to remove gender stereotypes, such as the association between between the words receptionist and female, while maintaining desired associations such as between the words queen and female. We define metrics to quantify both direct and indirect gender biases in embeddings, and develop algorithms to "debias" the embedding. Using crowd-worker evaluation as well as standard benchmarks, we empirically demonstrate that our algorithms significantly reduce gender bias in embeddings while preserving the its useful properties such as the ability to cluster related concepts and to solve analogy tasks. The resulting embeddings can be used in applications without amplifying gender bias.

연구 동기 및 목표

• 기존 단어 임베딩에서 직접적 및 간접적 성별 편향을 정량화한다.
• 성별 관련 분산의 대부분을 포착하는 성별 부분공간을 식별한다.
• 정의적 성별 연관성과 유용한 관계를 보존하면서 성별 중립적 단어의 편향을 감소시키는 디바이싱 방법을 개발한다.
• 디바이싱이 군집화 및 유추 능력을 보존하는지 평가하고 인간의 고정관념과의 정렬성을 평가한다.

제안 방법

• 성별 특정 단어 쌍(예: she-he, woman-man)으로부터 성별 부분공간을 계산하고 정렬한다.
• 성별 중립적 단어에 대해 코사인 유사도를 성별 방향과의 함수로 하여 직접적 편향을 정의한다.
• 단어 벡터를 성별 성분과 비성별 성분으로 분해하여 간접 편향을 정량화한다.
• 의미 있는 연관성을 보존하면서 성별 중립적 단어의 편향을 줄이는 디바이싱 알고리즘을 제안한다.
• 크라우드소싱 평가 및 군집화, 유추 해결과 같은 표준 임베딩 과제를 사용하여 편향 저감을 평가한다.

실험 결과

연구 질문

• RQ1 단어 임베딩은 직접적으로 그리고 간접적으로 성별 편향을 얼마나 강하게 인코딩하는가?
• RQ2 임베딩 전반에서 성별 부분공간을 견고하게 식별할 수 있으며, 이를 어떻게 편향 측정에 활용할 수 있는가?
• RQ3 유용한 의미 구조와 유추 성능을 유지하면서 성별 편향을 줄이기 위해 임베딩의 편향을 없앨 수 있는가?

주요 결과

• Google News(및 다른 소스)의 단어 임베딩은 직업군 및 유추에서 성별 고정관념을 보이며(예: 여성/남성 역할에 맞춘 연상).
• 성별 관련 단어 차이의 분산 중 다수를 포착하는 성별 부분공간을 식별할 수 있다.
• 직접적 및 간접적 성별 편향을 정량화하고 단어 군집화 및 유추 과제와 같은 주요 임베딩 유용성을 파괴하지 않으면서 디바이싱 대상으로 삼을 수 있다.
• 디바이싱 접근법은 편향 감소를 크게 달성하면서 임베딩의 유용한 특성을 보존하여 편향 증폭 가능성을 낮춘 응용을 가능하게 한다.