[논문 리뷰] Recovering from Biased Data: Can Fairness Constraints Improve Accuracy?

Avrim Blum, Kevin Stangl|arXiv (Cornell University)|2019. 12. 02.

Ethics and Social Impacts of AI참고 문헌 17인용 수 14

한 줄 요약

이 논문은 편향된 훈련 데이터에서 조건부 등가 기회 공정성 제약을 경험적 리스크 최소화(Empirical Risk Minimization, ERM)에 적용할 경우, 특히 차별받는 집단이 부족하게 포함되거나 잘못 레이블링된 경우에도 베이즈 최적 분류기로 복원할 수 있음을 보여준다. 핵심 결과는 공정성 제약이 체계적인 레이블링 및 샘플링 편향을 수정함으로써 진정한 데이터 분포에서의 정확도를 향상시킬 수 있다는 것이다.

ABSTRACT

Multiple fairness constraints have been proposed in the literature, motivated by a range of concerns about how demographic groups might be treated unfairly by machine learning classifiers. In this work we consider a different motivation; learning from biased training data. We posit several ways in which training data may be biased, including having a more noisy or negatively biased labeling process on members of a disadvantaged group, or a decreased prevalence of positive or negative examples from the disadvantaged group, or both. Given such biased training data, Empirical Risk Minimization (ERM) may produce a classifier that not only is biased but also has suboptimal accuracy on the true data distribution. We examine the ability of fairness-constrained ERM to correct this problem. In particular, we find that the Equal Opportunity fairness constraint (Hardt, Price, and Srebro 2016) combined with ERM will provably recover the Bayes Optimal Classifier under a range of bias models. We also consider other recovery methods including reweighting the training data, Equalized Odds, and Demographic Parity. These theoretical results provide additional motivation for considering fairness interventions even if an actor cares primarily about accuracy.

연구 동기 및 목표

• 훈련 데이터가 특정 차별받는 집단에 대해 편향되어 있을 때 공정성 제약이 모델 정확도를 향상시킬 수 있는지 조사하기.
• 부족한 양의 양성 예시와 차별받는 집단 구성원의 잘못된 레이블링을 포함한 현실적인 형태의 데이터 편향을 모델링하기.
• 왜곡된 훈련 데이터가 존재하는 상황에서도 공정성 제약 학습이 진정한 베이즈 최적 분류기로 복원 가능한지 평가하기.
• 다양한 공정성 제약—등가 기회, 등가된 기회, 인구 구성 비율 유지—과 재가중 기법의 효과를 비교하여 편향을 보정하는 데서의 성능을 평가하기.
• 공정성 제약이 공정성 외에도 편향된 데이터 설정에서 정확도 향상에 기여할 수 있는 이론적 근거를 제공하기.

제안 방법

• 이중 집단(우월 집단 A와 열등 집단 B)의 이진 분류 설정을 수식화하며, 진정한 베이즈 최적 분류기 h_A*와 h_B*가 동일한 양성 비율 p와 동일한 오류 비율 η를 가짐을 가정한다.
• 편향을 두 가지 메커니즘으로 모델링한다: 집단 B의 예시가 부족하게 포함되는 것(빈도 ν)과, 양성 집단 B 예시가 음성으로 잘못 레이블링되는 확률 ν.
• 등가 기회 제약을 ERM에 적용하여, 집단 B의 진정한 양성 비율이 집단 A와 동일하도록 요구한다. 즉, P(y=1|h_B*(x)=1) = P(y=1|h_A*(x)=1).
• 재가중된 우도 비율을 분석함으로써, 제약된 ERM 해가 진정한 베이즈 최적 분류기 h* = (h_A*, h_B*)를 복원할 조건을 유도한다.
• 다른 접근법과 비교한다: 인구 구성 비율을 만족하도록 훈련 데이터를 재가중하는 것과, ERM에 직접적으로 등가된 기회 또는 인구 구성 비율 유지 제약을 적용하는 것.
• 이론적 분석을 통해 등가 기회 제약이 다양한 편향 모델 하에서 h*를 확실히 복원할 수 있음을 보이며, 다른 방법들은 동일한 조건에서 실패함을 밝힌다.

실험 결과

연구 질문

• RQ1 훈련 데이터가 특정 차별받는 집단에 대해 편향되어 있을 때 등가 기회와 같은 공정성 제약이 모델 정확도를 향상시킬 수 있는가?
• RQ2 등가 기회 제약이 있는 ERM이 데이터 편향이 존재하는 상황에서도 베이즈 최적 분류기를 복원할 수 있는 조건은 무엇인가?
• RQ3 등가 기회, 등가된 기회, 인구 구성 비율 유지와 같은 다양한 공정성 제약이 부족한 자료와 잘못된 레이블링에서 편향을 보정하는 데 어떻게 성능을 내는가?
• RQ4 인구 구성 비율을 만족하도록 훈련 데이터를 재가중하는 것이 편향된 데이터 설정에서 정확도를 향상시키는가?
• RQ5 왜 등가 기회 제약이 등가된 기회와 유사한 공정성 개념보다 데이터 편향을 보정하는 데 더 뛰어난가?

주요 결과

• 등가 기회 제약이 적용된 ERM는 부족한 자료와 레이블링 편향을 포함한 다양한 편향 모델 하에서 베이즈 최적 분류기 h* = (h_A*, h_B*)를 확실히 복원한다.
• 두 집단의 베이즈 최적 분류기의 양성 비율 p와 오류 비율 η가 동일하고 오류가 균일하게 분포할 경우 복원이 보장된다.
• 인구 구성 비율을 만족하도록 훈련 데이터를 재가중하는 것은 일부 편향 모델에서는 정확도를 향상시킬 수 있지만, 다른 경우에는 실패한다. 반면 등가 기회 제약은 이와 다르게 성능이 뛰어나다.
• 등가 기회 제약이 등가된 기회보다 편향 보정에서 뛰어난 성능을 보이며, 실질적인 공정성 개념 간의 핵심적 차이를 드러낸다.
• 분석 결과, 공정성 제약이 훈련 데이터의 체계적 편향을 보완함으로써 진정한 데이터 분포에서의 정확도를 향상시킬 수 있음을 보여준다.
• 결과적으로 공정성 개선 조치가 정확도와 충돌하지 않으며, 편향된 데이터에서 정확한 모델을 복원하는 데 필수적일 수 있음을 시사한다.