[논문 리뷰] Understanding Undesirable Word Embedding Associations

Kawin Ethayarajh, David Duvenaud외 1명|arXiv (Cornell University)|2019. 08. 18.

Topic Modeling참고 문헌 14인용 수 5

한 줄 요약

이 논문은 행렬 분해 기반 모델인 SGNS와 GloVe와 같은 모델에서 후행적 편향 제거를 위한 부분공간 투영이 이론적으로는 편향이 없는 코퍼스에서 학습하는 것과 동일하다는 것을 입증한다. RIPA라는 새로운 연관 측정법을 도입하여 SGNS가 평균적으로 성별 편향을 증폭시키지 않지만, 성별 고정관념어에 대해서는 증폭시킨다는 것을 보이며, 편향된 연관성을 제거하면서도 성별 적절한 연관성을 유지하는 비지도 방법을 제안한다.

ABSTRACT

Word embeddings are often criticized for capturing undesirable word associations such as gender stereotypes. However, methods for measuring and removing such biases remain poorly understood. We show that for any embedding model that implicitly does matrix factorization, debiasing vectors post hoc using subspace projection (Bolukbasi et al., 2016) is, under certain conditions, equivalent to training on an unbiased corpus. We also prove that WEAT, the most common association test for word embeddings, systematically overestimates bias. Given that the subspace projection method is provably effective, we use it to derive a new measure of association called the $ extit{relational inner product association}$ (RIPA). Experiments with RIPA reveal that, on average, skipgram with negative sampling (SGNS) does not make most words any more gendered than they are in the training corpus. However, for gender-stereotyped words, SGNS actually amplifies the gender association in the corpus.

연구 동기 및 목표

• 후행적 편향 제거의 이론적 근거를 이해하고, 이론적으로 편향 없는 코퍼스에서 학습하는 것과의 동등성을 규명한다.
• 단어 임베딩 간 연관성 측정 기준으로서 표준 테스트인 WEAT의 이론적 결함을 특정하고 수정한다.
• 코퍼스 수준과 임베딩 수준의 연관성 간 정확한 비교를 가능하게 하는 새로운, 이론적으로 탄탄한 연관 측정법인 RIPA를 개발한다.
• 편향 제거 과정에서 성별 적절한 연관성을 유지하기 위한 비지도 방법을 제안한다.
• SGNS가 평균적으로는 성별 편향을 증가시키지 않지만, 고정관념어에 대해서만 증폭시킨다는 것을 입증한다.

제안 방법

• 행렬 분해 기반 모델(예: SGNS, GloVe)에 대해, 편향 정의 벡터의 스트림(단지 주성분만이 아니라)을 사용하는 조건 하에 부분공간 투영 편향 제거가 편향 없는 코퍼스에서 학습하는 것과 이론적으로 동일하다는 것을 증명한다.
• WEAT가 속성어 빈도에 대한 암묵적 가정과 조작된 속성어 집합에 대한 민감성으로 인해 편향을 체계적으로 과대평가한다는 것을 밝혀낸다.
• 관계 내적곱 연관성(RIPA)을 ⟨w, b⟩로 정의한다. 여기서 b는 성별 정의 쌍(예: man–woman)의 차이 벡터의 첫 번째 주성분이다. 이를 통해 임베딩 공간 내의 연관성과 코퍼스 수준의 연관성을 정보 이론적으로 비교할 수 있다.
• 비지도 히우리스틱을 제안하여 성별 적절한 단어를 식별한다: 단어 w는 |β(w; b*)| < |β(w; b’)|일 경우에만 편향 제거된다. 여기서 b*는 성별 정의 벡터이고, b’는 고정관념적 연관성에서 유도된 편향 정의 벡터이다.
• RIPA를 사용하여 실제 임베딩 간 연관성과 기대되는 코퍼스 수준의 연관성을 비교함으로써, 언제이고 어떤 방식으로 편향이 증폭되는지 밝혀낸다.
• 편향 제거 성능을 연관성 유지도를 통해 평가한다: 편향 제거 후 성별 적절한 연관성과 편향된 연관성이 얼마나 유지되는지 측정한다.

실험 결과

연구 질문

• RQ1 행렬 분해 기반 단어 임베딩 모델에서 후행적 부분공간 투영 편향 제거는 편향 없는 코퍼스에서 학습하는 것과 동일한가?
• RQ2 WEAT는 왜 단어 임베딩의 성별 편향을 체계적으로 과대평가하는가? 그 이론적 결함은 무엇인가?
• RQ3 SGNS는 훈련 코퍼스 대비 단어 임베딩에서 성별 연관성을 얼마나 증폭시키는가?
• RQ4 편향 제거 과정에서 성별 적절한 연관성을 유지하면서 편향된 연관성을 제거하는 방법은 무엇인가?
• RQ5 비지도 방법이 성별 적절한 단어를 효과적으로 식별하여 선택적 편향 제거를 이끌 수 있는가?

주요 결과

• SGNS와 GloVe에 대해, 편향 정의 벡터의 스트림(단지 주성분만이 아니라)으로 정의된 편향 부분공간을 사용할 경우, 부분공간 투영 편향 제거는 편향 없는 코퍼스에서 학습하는 것과 이론적으로 동일하다.
• WEAT는 코퍼스 내 속성어 빈도가 동일하다는 가정을 하고 있으며, 조작된 속성어 집합에 민감하여 성별 중립어에 대해 잘못된 양성 결과를 유도함으로써 편향을 체계적으로 과대평가한다.
• SGNS는 평균적으로 대부분의 단어가 훈련 코퍼스보다 임베딩 공간에서 더 성별화되지 않지만, 고정관념어나 정의상 성별화된 단어들(예: 'nurse', 'queen')만이 성별 연관성이 증폭된다.
• 제안된 비지도 방법은 성별 적절한 연관성의 94.9%를 유지하며 강도 ≥0.5를 확보한다. 반면 Bolukbasi 등이 제안한 지도 학습 기반 방법은 16.5%에 그친다. 또한 편향된 연관성은 80.0%에서 36.7%로 감소한다.
• RIPA를 통해 코퍼스 수준과 임베딩 수준의 연관성을 직접 비교할 수 있으며, 이는 편향 증폭이 SGNS의 일반적 성질이 아니며 특정 단어 유형에 국한된다는 것을 드러낸다.
• 편향 제거 이전에 벡터 길이를 정규화하면 안 되며, 정규화 시 편향 제거의 정확도에 중요한 정보가 손실되기 때문이다.