[논문 리뷰] What do Bias Measures Measure

Sunipa Dev, Emily Sheng외 7명|arXiv (Cornell University)|2021. 08. 07.

Hate Speech and Cyberbullying Detection참고 문헌 57인용 수 5

한 줄 요약

이 논문은 NLP에서의 편향 측정 방법에 대한 종합적인 서베이를 제시하며, 작업, 메트릭, 데이터셋, 사회적 편향 유형별로 이를 분류하여 각 측정 방법이 무엇을 측정하는지, 상호 비교는 어떻게 이루어지는지 명확히 한다. 또한 NLP 연구에서 편향 메트릭의 일관성, 분류, 적절한 사용을 향상시키기 위한 표준화된 문서화 프레임워크를 제안한다.

ABSTRACT

Natural Language Processing (NLP) models propagate social biases about protected attributes such as gender, race, and nationality. To create interventions and mitigate these biases and associated harms, it is vital to be able to detect and measure such biases. While many existing works propose bias evaluation methodologies for different tasks, there remains a need to cohesively understand what biases and normative harms each of these measures captures and how different measures compare. To address this gap, this work presents a comprehensive survey of existing bias measures in NLP as a function of the associated NLP tasks, metrics, datasets, and social biases and corresponding harms. This survey also organizes metrics into different categories to present advantages and disadvantages. Finally, we propose a documentation standard for bias measures to aid their development, categorization, and appropriate usage.

연구 동기 및 목표

• NLP의 다양한 작업, 메트릭, 데이터셋, 사회적 편향 유형에 걸쳐 기존의 편향 측정 방법을 체계적으로 서베이하는 것.
• 각 측정 방법의 강점, 한계, 그리고 범주적 가정에 기반해 편향 측정 방법을 분류하는 것.
• 현재 편향 평가 방법론의 격차와 실제 세계의 피해와의 일치 여부를 규명하는 것.
• 연구의 투명성과 사용성을 향상시키기 위해 편향 측정 방법의 표준화된 문서화 프레임워크를 제안하는 것.

제안 방법

• 저자는 NLP에서의 기존 편향 평가 방법론을 체계적으로 검토하며, 다양한 NLP 작업에 걸쳐 그 적용을 중점적으로 다룬다.
• 사회적 편향 유형(예: 성별, 인종), NLP 작업(예: 텍스트 분류, 생성), 그리고 기초 메트릭(예: 단어 임베딩 유사도, 모델의 공정성 메트릭) 등의 차원을 기준으로 편향 측정 방법을 분류한다.
• 대부분의 측정 방법을 표현 기반, 예측 기반, 또는 반사적 조건 기반의 설계 원칙에 따라 카테고리화한다.
• 각 측정 방법의 범주적 가정을 분석하며, 실제 사회적 피해와의 일치 여부를 평가한다.
• 편향 유형, 작업, 메트릭, 데이터셋, 목적 용도 등의 메타데이터를 포함하는 문서화 표준을 제안하여 재현 가능성과 투명성을 향상시킨다.
• 이 프레임워크는 연구자들이 편향 측정 방법을 적절히 선택하고 비교하며, 후속 연구에 적용하는 데 지원을 제공하도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 기존의 NLP 편향 측정 방법은 어떤 종류의 사회적 편향과 범주적 피해를 측정하는가?
• RQ2 다양한 NLP 작업에서 편향 측정 방법의 범위, 가정, 효과성 측면에서 어떻게 비교 가능한가?
• RQ3 현재 편향 평가 방법론의 주요 한계와 상호 보완적 조건은 무엇인가?
• RQ4 편향 측정 방법을 체계적으로 문서화하고 분류함으로써 연구의 투명성과 재현 가능성을 어떻게 향상시킬 수 있는가?

주요 결과

• 서베이 결과, NLP 연구 전반에서 편향 측정 방법의 정의, 적용, 해석 방식에 큰 이질성이 존재하여 평가 방식이 일관되지 못한 것으로 드러났다.
• 다수의 편향 측정 방법은 특정 유형의 편향(예: 단어 임베딩에서의 성별 편향)에 집중하지만, 교차적 또는 체계적인 형태의 편향을 잘 포착하지 못하는 경우가 많다.
• 편향 측정 방법이 탐지하고자 하는 범주적 피해와 실제 NLP 도입 사례에서 관찰되는 사회적 피해 사이에 일치가 부족한 편이다.
• 제안된 문서화 표준은 편향 측정 방법의 특성을 더 명확히 전달할 수 있게 해주며, 향후 연구에서의 비교 및 선택을 보다 효과적으로 가능하게 한다.