[논문 리뷰] Measuring Social Biases of Crowd Workers using Counterfactual Queries

Bhavya Ghai, Q. Vera Liao외 2명|arXiv (Cornell University)|2020. 04. 04.

Mobile Crowdsensing and Crowdsourcing참고 문헌 5인용 수 8

한 줄 요약

이 논문은 민감한 특성(예: 성별 또는 인종)을 변경한 대체 조건(Counterfactual)을 사용하여 군중 작업자 내 사회적 편향을 측정하는 새로운 방법을 제안한다. 각 작업자의 원본 쿼리와 그에 대응하는 민감도 기반 대체 쿼리에 대한 레이블을 비교하여 편향 점수를 산출한다. 이 방법은 자가 보고나 기준값이 없는 조건에서도 편향이 있는 작업자를 식별하고, 이를 가중치를 낮추는 방식으로 편향 없는 데이터셋을 구성할 수 있으며, 기존의 편향 측정 기법에 비해 비용 효율적이고 침투성이 높은 대안을 제공한다.

ABSTRACT

Social biases based on gender, race, etc. have been shown to pollute machine learning (ML) pipeline predominantly via biased training datasets. Crowdsourcing, a popular cost-effective measure to gather labeled training datasets, is not immune to the inherent social biases of crowd workers. To ensure such social biases aren't passed onto the curated datasets, it's important to know how biased each crowd worker is. In this work, we propose a new method based on counterfactual fairness to quantify the degree of inherent social bias in each crowd worker. This extra information can be leveraged together with individual worker responses to curate a less biased dataset.

연구 동기 및 목표

• 기계 학습 모델에서 불공정성을 심화시킬 수 있는 군중 기반 학습 데이터셋 내 사회적 편향 문제를 해결하기 위해.
• 자기 보고서나 금표 기준 레이블에 의존하지 않고도 개인 작업자 내 잠재적인 사회적 편향(예: 성별, 인종)을 정량화하는 방법을 개발하기 위해.
• 기존 군중 기반 워크플로우에 쉽게 통합될 수 있는 확장성 있고, 침투성 있으며 비용 효율적인 기법을 개발하기 위해.
• 작업자별 편향 점수를 활용해 보다 공정한 레이블 집계를 가능하게 하여 데이터 코딩을 향상시키기 위해.
• 기준값이 없거나 확보하기 어려운 주관적 레이블링 작업에 특히 효과적인 솔루션을 제공하기 위해.

제안 방법

• 민감한 특성(예: 성별 또는 인종)만 변경하고 나머지 모든 특성은 동일하게 유지함으로써 대체 조건 쿼리를 생성한다.
• 각 작업자에 대해, n개의 쿼리-대체 쿼리 쌍에 대해 원본 쿼리와 대체 쿼리에 할당된 레이블 간의 평균 절대 차이를 편향 점수로 계산한다.
• 대체 조건을 노이즈 주입(수치형 특성), 더미 속성 수정(예: 이름의 첫글자/성), 텍스트의 어색한 표현 변경 등을 통해 은폐하여 작업자가 기억 기반으로 식별하지 못하도록 한다.
• 이 방법은 작업자에게 인지되지 않도록 설계되어 있어, 명시적인 평가 맥락을 피함으로써 사회적 선호도 편향을 줄인다.
• 이 방법은 데이터 코딩 단계에서 적용되며, 편향 점수가 레이블 집계에 영향을 미치게 되며, 예를 들어 편향이 심한 작업자의 레이블을 가중치를 낮추거나 걸러내는 방식으로 작용한다.
• 특히 기준값이 없어 기존의 공정성 지표를 적용하기 어려운 주관적 작업(예: 독성 평가)에 적합하다.

실험 결과

연구 질문

• RQ1 자기 보고서나 금표 기준 레이블에 의존하지 않고, 객관적으로 군중 작업자 내 사회적 편향을 측정할 수 있는 방법은 무엇인가?
• RQ2 대체 조건 기반의 편향 점수가 기존의 공정성 지표나 자기 보고된 편향과 얼마나 관련이 있는가?
• RQ3 이 방법은 주관적 레이블링 작업에서 인종적 또는 성별적 편향을 효과적으로 탐지하고 정량화할 수 있는가?
• RQ4 대체 조건의 은폐 조치가 작업자가 자신이 편향 평가를 받고 있음을 인지하지 못하게 하는 데 얼마나 효과적인가?
• RQ5 작업자 편향 점수가 최종 데이터셋의 레이블 집계 공정성에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 원본 쿼리와 대체 쿼리에 대한 레이블 간 평균 절대 차이를 사용해 작업자별 편향 점수를 산출하며, 0은 완전한 공정성을 의미한다.
• 대체 조건을 노이즈, 더미 특성, 어색한 표현 변경을 통해 은폐함으로써 기억 효과에 대한 강건성이 확보된다.
• 기준값이나 금표 질문이 필요 없기 때문에 비용 효율적이며, 레이블에 객관적 기준이 없는 주관적 작업에 적용 가능하다.
• 편향 점수를 레이블 집계에 통합함으로써, 원래 레이블링 워크플로우를 변경하지 않고도 편향이 적은 데이터셋을 구성할 수 있다.
• 자기 보고서 설문지와 달리 작업자가 평가를 받고 있음을 인지하지 못하므로 사회적 선호도 편향을 피할 수 있다.
• 이 방법은 데이터 코딩 단계에서 편향을 평가하고 완화할 수 있는 확장성 있고, 자동화되며 투명한 방식을 제공한다.