[논문 리뷰] Blackbox Post-Processing for Multiclass Fairness

Preston Putzel, Scott Lee|arXiv (Cornell University)|2022. 01. 12.

Ethics and Social Impacts of AI인용 수 11

한 줄 요약

이 논문은 Hardt 등(2016)의 후처리 공정성 프레임워크를 다중분류 문제로 확장하여, 조건부 조정 확률에 대한 선형 프로그래밍을 제작함으로써 공정성을 확보하면서 정확도 손실를 최소화한다. 충분한 데이터 크기가 확보될 경우, 이 방법은 정확도 손실이 미미한 수준에서 높은 공정성을 달성하지만, 소규모 데이터셋이나 강한 클래스 불균형 상황에서는 성능 저하가 발생한다.

ABSTRACT

Applying standard machine learning approaches for classification can produce unequal results across different demographic groups. When then used in real-world settings, these inequities can have negative societal impacts. This has motivated the development of various approaches to fair classification with machine learning models in recent years. In this paper, we consider the problem of modifying the predictions of a blackbox machine learning classifier in order to achieve fairness in a multiclass setting. To accomplish this, we extend the 'post-processing' approach in Hardt et al. 2016, which focuses on fairness for binary classification, to the setting of fair multiclass classification. We explore when our approach produces both fair and accurate predictions through systematic synthetic experiments and also evaluate discrimination-fairness tradeoffs on several publicly available real-world application datasets. We find that overall, our approach produces minor drops in accuracy and enforces fairness when the number of individuals in the dataset is high relative to the number of classes and protected groups.

연구 동기 및 목표

• 편향된 모델이 보호되는 민감한 인구집단에 불리하게 작용할 수 있는 다중분류 기계학습 예측에서의 공정성 문제를 해결한다.
• 기존의 블랙박스 분류기의 내부 파rameter를 변경하지 않고도 예측을 수정하는 후처리 방법을 개발한다.
• 다양한 클래스와 보호 속성 간의 공정성을 확보하면서도 예측 정확도를 유지한다.
• 특히 데이터셋 크기와 클래스 불균형에 대한 영향을 고려하여 후처리가 효과를 발휘하는 조건을 조사한다.
• 합성 및 실세계 데이터셋을 대상으로 평가하여 공정성-정확도 트레이드오프와 외부 샘플에 대한 강건성을 평가한다.

제안 방법

• 보호 속성 $A$와 블랙박스 분류기의 출력 $\hat{Y}$를 기반으로 조건부 확률 $\text{Pr}(Y^\text{adj} = y^\text{adj} \mid \hat{Y} = \hat{y}, A = a)$를 사용하여 조정된 예측 $Y^{\text{adj}}$를 확률적 함수로 정의한다.
• 보호 속성별 혼동 행렬 $\mathbf{P}^a = \text{Pr}(Y^\text{adj} \mid \hat{Y}, A = a)$에 대한 선형 프로그래밍을 수립하여 공정성 제약 조건을 강제한다.
• 기대 손실을 최소화하는 선형 목표 함수를 사용하며, 가중치 없는 0-1 손실 또는 $1/\text{Pr}(Y = y, A = a)$ 기반의 가중치 손실을 선택하여 소수의 집단에서의 오류에 더 높은 벌점을 적용할 수 있다.
• 원본 분류기의 혼동 행렬 $\mathbf{Z}^a = \text{Pr}(\hat{Y} \mid Y, A = a)$를 데이터로부터 실측하여 $\mathbf{P}^a$에 대한 선형성을 유지한다.
• 등가된 오차 또는 동등한 대우와 같은 제약 조건을 통해 공정성을 확보하며, 진정한 레이블이 주어진 조건에서 예측이 보호 속성과 조건부 독립이 되도록 보장한다.
• 결과로 도출된 선형 프로그래밍을 해결하여 공정성 기준을 충족하면서도 정확도 저하를 최소화한 조정된 예측을 확보한다.

실험 결과

연구 질문

• RQ1 다중분류 후처리가 공정하고 정확한 예측을 도출하는 데 효과적인 데이터 환경은 어떤가?
• RQ2 개인 수가 클래스 수 및 보호 그룹 수에 비해 작을 경우, 후처리 방법의 성능은 어떻게 저하되는가?
• RQ3 유한한 표본 변동성은 외부 샘플에 대한 공정성 강제에 어떤 영향을 미치는가?
• RQ4 클래스 불균형과 원본 블랙박스 모델의 예측 편향은 후처리의 효과성에 어떤 영향을 미치는가?
• RQ5 실세계 다중분류 응용에서 공정성과 정확도 간의 트레이드오프는 어느 정도인가?

주요 결과

• 대규모 데이터셋인 바 파스세이트 데이터셋($N = 22,406$)에서는 공정성 이질성이 95% 감소했고, 엄격한 공정성 조건에서도 Brier 점수 손실이 오직 7.5%포인트에 머물렀다.
• 소규모 데이터셋인 비만 데이터셋($N = 1,490$, $|C| = 5$)에서는 교차검증 시 후처리 후 TDR가 46% 감소하여 유한한 표본에 기인한 성능 저하가 뚜렷하게 나타났다.
• 약물 사용 데이터셋에서는 후처리 이후 외부 샘플의 공정성 이질성이 두 배로 증가하여 일반화 과정에서 편향이 증가할 수 있음을 시사했다.
• 모든 데이터셋에서 선형 프로그래밍에 의해 강제된 바, 내부 샘플 데이터에서는 근접한 0의 이질성이 달성되었지만, 외부 샘플에서는 이질성이 완전히 제거되지 않았다.
• 강한 클래스 불균형과 소수 집단에서의 높은 예측 편향 상황에서 성능 저하가 가장 심각했으며, 이 경우 조정된 예측기의 성능이 랜덤 추측 수준에 가까워지기도 하였다.
• 블랙박스 모델이 이미 중간 정도로 공정성이 확보되어 있고 데이터셋이 크다면, 이 방법은 정확도 손실가 최소화되면서도 효과적이고 효율적인 공정성 강제를 유지한다.