[논문 리뷰] Evaluating Metrics for Bias in Word Embeddings

Sarah Schröder, Alexander Schulz외 4명|arXiv (Cornell University)|2021. 11. 15.

Natural Language Processing Techniques인용 수 7

한 줄 요약

이 논문은 워드 임베딩의 편향을 측정하기 위한 새로운 코사인 기반 편향 지표인 SAME(Score Association Means of Word Embeddings)을 제안한다. 기존 지표들인 WEAT, Direct Bias, MAC의 이론적 결함을 해결하며, 편향 지표에 바람직한 성질을 형식적으로 정의하고, SAME가 이 성질들을 만족함을 증명한다. 실험을 통해 SAME가 부분집합 선택 및 편향/스테레오타입 구분 상황에서 기존 방법보다 편향 탐지 능력이 뛰어나다는 것을 입증한다.

ABSTRACT

Over the last years, word and sentence embeddings have established as text preprocessing for all kinds of NLP tasks and improved the performances significantly. Unfortunately, it has also been shown that these embeddings inherit various kinds of biases from the training data and thereby pass on biases present in society to NLP solutions. Many papers attempted to quantify bias in word or sentence embeddings to evaluate debiasing methods or compare different embedding models, usually with cosine-based metrics. However, lately some works have raised doubts about these metrics showing that even though such metrics report low biases, other tests still show biases. In fact, there is a great variety of bias metrics or tests proposed in the literature without any consensus on the optimal solutions. Yet we lack works that evaluate bias metrics on a theoretical level or elaborate the advantages and disadvantages of different bias metrics. In this work, we will explore different cosine based bias metrics. We formalize a bias definition based on the ideas from previous works and derive conditions for bias metrics. Furthermore, we thoroughly investigate the existing cosine-based metrics and their limitations to show why these metrics can fail to report biases in some cases. Finally, we propose a new metric, SAME, to address the shortcomings of existing metrics and mathematically prove that SAME behaves appropriately.

연구 동기 및 목표

• 기존의 코사인 기반 편향 지표들인 WEAT, Direct Bias, MAC의 이론적 한계를 규명하는 것.
• 워드 임베딩 맥락에서 의미 있는 편향 점수 함수를 정의하기 위한 수학적 요구사항 집합을 형식화하는 것.
• 모든 형식화된 요구사항을 만족하고 신뢰성 및 비교 가능성을 향상시킨 새로운 편향 지표 SAME을 제안하는 것.
• 편향이 있는 데이터로 훈련된 BERT 모델을 사용한 제어 실험을 통해 SAME을 기존 지표들과 비교하여 경험적으로 검증하는 것.
• 편향의 기울기(skew)와 스테레오타입(stereotype) 편향을 별도로 구분하고 평가함으로써 해석 가능성과 탐지 정확도를 향상시키는 것.

제안 방법

• 벡터 공간 내 기하학적 관계를 기반으로 한 편향 정의를 형식화하며, 코사인 유사도를 核심 측정 기준으로 삼는다.
• 편향 지표에 대한 네 가지 형식적 요구사항을 정의한다: 비교 가능성(comparability), 신뢰성(trustworthiness), 편향에 대한 민감도(sensitivity to bias), 치환에 대한 불변성(invariance to permutation).
• 기존 지표들(WEAT, Direct Bias, MAC)을 이러한 요구사항에 대해 분석하여 이론적 결함을 폭 드러낸다.
• SAME을 WEAT의 核심 아이디어를 재구성한 것으로 제안하며, 그룹 기반 비교 대신 평균 기반의 연관성 점수를 도입한다.
• SAME을 다중 속성 편향을 다룰 수 있도록 확장하고, 기울기(평균 편차)에 대응하는 변형과 스테레오타입(표준편차)에 대응하는 별도의 변형을 도입한다.
• 편향이 있는 데이터로 BERT를 재학습하여 기준 편향(ground-truth bias)을 생성하고, 이를 바탕으로 지표들의 탐지 능력을 평가하는 제어 실험을 수행한다.

실험 결과

연구 질문

• RQ1 WEAT, Direct Bias, MAC와 같은 널리 사용되는 코사인 기반 편향 지표들에 존재하는 이론적 결함은 무엇인가?
• RQ2 다양한 워드 임베딩 간에 신뢰성 있고 비교 가능한 편향 지표를 확보하기 위해 어떻게 형식화할 수 있는가?
• RQ3 모든 형식화된 요구사항을 만족하면서도 기울기 편향과 스테레오타입 편향을 동시에 향상시킬 수 있는 새로운 지표를 구성할 수 있는가?
• RQ4 실세계 조건인 부분집합 선택 및 데이터 치환 상황에서 제안된 SAME 지표는 편향 탐지에 얼마나 효과적인가?
• RQ5 기울기와 스테레오타입 지표는 얼마나 서로 보완적으로 작용하여 워드 임베딩의 다양한 편향 측면을 포괄적으로 캡처할 수 있는가?

주요 결과

• WEAT, Direct Bias, MAC와 같은 기존 지표들은 비교 가능성과 신뢰성 측면에서 핵심적인 이론적 결함을 지니며, 이는 구조적 결함 때문이었다.
• SAME은 단어 편향의 평균에 대해 뚜렷한 상관관계(r = 0.21)를 보이며, 이는 다른 모든 지표보다 뛰어난 성능을 나타낸다.
• SAME은 부분집합 선택에 대해 뛰어난 강건성을 보이며, WEAT 대비 평균 편향 차이가 10배 낮아 데이터 샘플링 변동에 더 안정적임을 시사한다.
• SAME의 스테레오타입 변형은 비마스크링 편향과 유의미한 상관관계(p < 0.05)를 보이며, WEAT 및 기타 지표보다 스테레오타입 연관성 탐지 능력이 뛰어나다.
• SAME의 기울기 변형은 유일하게 평균 편향과 유의미한 상관관계를 보이며, 이는 체계적인 방향성 편향 탐지 능력이 뛰어나다는 것을 강조한다.
• 기존의 코사인 기반 지표들은 모든 형태의 편향을 완전히 포괄하지 못하므로, 하류 작업의 공정성 지표를 병행해 평가할 필요성이 있음을 시사한다.