[논문 리뷰] Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment

Muhammad Bilal Zafar, Isabel Valera외 2명|arXiv (Cornell University)|2016. 01. 01.

Ethics and Social Impacts of AI참고 문헌 21인용 수 586

한 줄 요약

이 논문은 '이질적 오취급'(disparate mistreatment)이라는 정의된 공정성 개념을 소개하며, 민감 집단 간 비균형된 오분류 비율에 기반한 개념으로, 이러한 오취급을 최소화하는 볼록-오목 최적화 프레임워크를 제안한다. 이 방법은 정확도 손실를 최소화하면서도 합성 및 실세계 데이터셋(예: COMPAS)에서 기존의 기준보다 뛰어난 성능을 보이며 이질적 오취급을 효과적으로 줄인다.

ABSTRACT

Automated data-driven decision making systems are increasingly being used to assist, or even replace humans in many settings. These systems function by learning from historical decisions, often taken by humans. In order to maximize the utility of these systems (or, classifiers), their training involves minimizing the errors (or, misclassifications) over the given historical data. However, it is quite possible that the optimally trained classifier makes decisions for people belonging to different social groups with different misclassification rates (e.g., misclassification rates for females are higher than for males), thereby placing these groups at an unfair disadvantage. To account for and avoid such unfairness, in this paper, we introduce a new notion of unfairness, disparate mistreatment, which is defined in terms of misclassification rates. We then propose intuitive measures of disparate mistreatment for decision boundary-based classifiers, which can be easily incorporated into their formulation as convex-concave constraints. Experiments on synthetic as well as real world datasets show that our methodology is effective at avoiding disparate mistreatment, often at a small cost in terms of accuracy.

연구 동기 및 목표

• 기본 진실값이 존재할 때 기계학습의 공정성 문제를 다루며, 이질적 대우 및 영향의 편향을 넘어서는 것.
• 민감 집단 간 오분류 비율의 불균형을 정의하고 수식적으로 공식화하는 '이질적 오취급'을 정의하는 것.
• 정확도를 유지하면서도 이질적 오취급을 피하는 실용적이고 확장 가능한 분류기 학습 방법을 개발하는 것.
• 민감 속성이 직접 사용되지 않는 상황에서도 이질적 오취급과 이질적 대우를 동시에 완화할 수 있도록 하는 것.

제안 방법

• 민감 집단 간 이질적 오분류 비율(예: 거짓 양성, 거짓 음성, 거짓 발견, 거짓 배제 비율)의 불균형을 기반으로 한 새로운 공정성 개념인 '이질적 오취급'을 제안한다.
• 오분류 비율의 차이를 기반으로 한 공정성 제약 조건을 볼록-오목 최적화 문제로 수식화한다.
• 오분류 공분산의 몬테카를로 근사를 통해 효율적으로 공정성 제약 조건을 추정한다.
• 분류기의 선형 및 비선형 모델(예: 로지스틱 회귀)에 분류기-지속적 볼록-오목 프로그래밍(DCCP)을 통합하여 공정성 제약 조건을 통합한다.
• 볼록-오목 프로그래밍 솔버를 사용하여 정확도와 공정성을 동시에 최적화할 수 있도록 한다.
• 응용 맥락에 따라 특정 오분류 유형(예: 거짓 양성 또는 거짓 음성)을 타겟으로 삼아 공정성 제어를 유연하게 지원한다.

실험 결과

연구 질문

• RQ1 오분류 비율에 기반한 공정성 기준인 '이질적 오취급'이 분류 시스템에서 효과적으로 수식화되고 최적화될 수 있는가?
• RQ2 정확도를 희생시키지 않고 이질적 오취급을 볼록-오목 제약 조건으로 분류기 학습에 통합할 수 있는가?
• RQ3 기존의 접근 방식과 비교했을 때 이 방법은 얼마나 효과적으로 이질적 오취급을 줄일 수 있으며, 모델의 유용성은 유지 또는 향상되는가?
• RQ4 민감 속성이 추론 과정에서 직접 사용되지 않는 조건에서도, 반차별법의 요구사항을 충족하면서 이 방법이 여전히 효과적인가?

주요 결과

• 제안된 방법은 합성 및 실세계 데이터셋에서 거짓 양성 및 거짓 음성 비율의 이질적 오취급을 효과적으로 줄이며, 정확도 손실를 최소화하여 공정성을 달성한다.
• COMPAS 데이터셋에서 이 방법은 거짓 양성 비율의 이질성(DFPR)을 0.06으로 줄였고, 거짓 음성 비율의 이질성(DFNR)을 -0.14로 줄여 기준 모델 및 Hardt 등과 비교해 정확도-공정성 트레이드오프에서 뛰어난 성능을 보였다.
• 거짓 양성 비율 제약 조건을 제어하면 거짓 음성 비율의 이질적 오취급도 감소하고, 그 반대의 경우도 마찬가지로 나타나, 오분류 유형 간 강한 상호의존성이 있음을 시사한다.
• 모든 경우에서 정확한 차이가 0이 되지 않음(예: DFPR 또는 DFNR = 0)은 작은 데이터셋 크기로 인해 공분산 추정의 정확도가 제한되기 때문일 가능성이 있다.
• Hardt 등이 제안한 방법은 DFPR 및 DFNR을 0으로 만들었지만, 이는 상당한 정확도 손실(예: COMPAS에서 64.5% 정확도)을 수반했으며, 이는 공정성과 유용성 간의 상충 관계를 잘 보여준다.
• 작은 데이터셋에서는 공분산 추정의 신뢰성이 떨어져 성능이 저하됨을 확인하였으며, 이는 더 큰 훈련 데이터셋이 안정적인 공정성 제약 조건을 확보하는 데 유리함을 시사한다.