[논문 리뷰] From Soft Classifiers to Hard Decisions: How fair can we be?

Ran Canetti, Aloni Cohen외 4명|arXiv (Cornell University)|2018. 10. 03.

Ethics and Social Impacts of AI참고 문헌 4인용 수 4

한 줄 요약

이 논문은 이진 결정에서 그룹 형평성을 달성하기 위해 캘리브레이션된 소프트 분류기를 후처리하는 방식을 조사하며, 전역 임계값을 사용해 예측값(PPV/NPV)을 등가화하는 것은 일반적으로 불가능하다고 보여준다. 이를 해결하기 위해, 그룹 간 PPV, NPV, FPR, FNR를 등가화할 수 있는 연기 기반 후처리 기법을 제안하며, 기존 표준 임계값 기반 접근 방식에서 알려진 불가능성 결과를 우회한다.

ABSTRACT

A popular methodology for building binary decision-making classifiers in the presence of imperfect information is to first construct a non-binary "scoring" classifier that is calibrated over all protected groups, and then to post-process this score to obtain a binary decision. We study the feasibility of achieving various fairness properties by post-processing calibrated scores, and then show that deferring post-processors allow for more fairness conditions to hold on the final decision. Specifically, we show: 1. There does not exist a general way to post-process a calibrated classifier to equalize protected groups' positive or negative predictive value (PPV or NPV). For certain "nice" calibrated classifiers, either PPV or NPV can be equalized when the post-processor uses different thresholds across protected groups, though there exist distributions of calibrated scores for which the two measures cannot be both equalized. When the post-processing consists of a single global threshold across all groups, natural fairness properties, such as equalizing PPV in a nontrivial way, do not hold even for "nice" classifiers. 2. When the post-processing is allowed to `defer' on some decisions (that is, to avoid making a decision by handing off some examples to a separate process), then for the non-deferred decisions, the resulting classifier can be made to equalize PPV, NPV, false positive rate (FPR) and false negative rate (FNR) across the protected groups. This suggests a way to partially evade the impossibility results of Chouldechova and Kleinberg et al., which preclude equalizing all of these measures simultaneously. We also present different deferring strategies and show how they affect the fairness properties of the overall system. We evaluate our post-processing techniques using the COMPAS data set from 2016.

연구 동기 및 목표

• 이진 결정에서 그룹 형평성을 달성하기 위해 캘리브레이션된 소프트 분류기의 후처리 한계를 분석하는 것.
• 보호 그룹 간 등가화된 PPV 및 NPV와 같은 형평성 특성들이 임계값 기반으로 달성될 수 있는지 조사하는 것.
• 연기 메커니즘이 여러 형평성 지표(PPV, NPV, FPR, FNR)를 동시에 등가화하는 데 어떻게 기여할 수 있는지 탐색하는 것.
• 실제 데이터(COMPAS)를 활용해 제안된 방법을 평가하고, 형평성과 연기 비율 간의 트레이드오프를 분석하는 것.
• 형평성 인식 결정 시스템에서 연기 모델의 기술적 및 절차적 영향을 검토하는 것.

제안 방법

• 보호 그룹을 고려한 임계값을 사용해 캘리브레이션된 소프트 분류기를 후처리하여 각 보호 그룹의 결정 경계를 조정하는 방식.
• 일부 입력을 직접 분류하는 대신 후속 결정자에게 위임하는 연기 메커니즘을 도입하는 것.
• 연기되지 않은 결정에 대해 형평성 지표(PPV, NPV, FPR, FNR)를 조건화하여 활성 결정의 형평성만을 분리 고려하는 것.
• 질량 평균화 및 임계값 전략을 사용해 한 정확도 프로파일(AP)을 다른 AP로 변환하면서도 형평성을 유지하는 것.
• 연기되지 않은 사건에 조건을 붙여 조건부 가짜 양성 및 가짜 음성 비율을 정의함으로써 표준 정의와 일관성을 유지하는 것.
• 임계값 전략과 AP 변환 기법을 사용해 COMPAS 데이터셋에서 성능을 평가하는 것.

실험 결과

연구 질문

• RQ1 캘리브레이션된 소프트 분류기를 단일 전역 임계값을 사용해 후처리하여 보호 그룹 간 PPV 또는 NPV를 등가화할 수 있는가?
• RQ2 어떤 조건에서 보호 그룹에 따라 임계값을 조정하면 캘리브레이션을 위반하지 않고 PPV 또는 NPV를 등가화할 수 있는가?
• RQ3 연기 기반 후처리를 통해 보호 그룹 간 PPV, NPV, FPR, FNR를 동시에 등가화할 수 있는가?
• RQ4 다양한 연기 모델이 결과로 도출된 결정 시스템의 형평성과 오류율에 어떤 영향을 미치는가?
• RQ5 실제 응용 사례인 COMPAS와 같이 형평성, 연기 비율, 정확도 간의 트레이드오프는 무엇인가?

주요 결과

• 보호 그룹 간 PPV 또는 NPV를 등가화하기 위해 단일 전역 임계값을 사용해 캘리브레이션된 분류기를 후처리하는 일반적인 방법은 존재하지 않는다.
• 일부 잘 정의된 정확도 프로파일(APs)에 대해서는 보호 그룹에 따라 임계값을 조정하면 PPV 또는 NPV 중 하나는 등가화할 수 있지만, 둘 다 동시에 등가화할 수는 없다.
• 연기가 허용되는 조건에서, 연기되지 않은 결정에 대해 PPV, NPV, FPR, FNR를 모두 그룹 간 등가화할 수 있으며, 이는 기존의 알려진 불가능성 결과를 효과적으로 우회하는 것이다.
• 연기 기반 후처리 기법은 임계값 기반 접근이 실패할 경우에도 다수의 형평성 지표에 대해 완전한 형평성 등가화를 가능하게 한다.
• COMPAS 데이터셋에 대한 실험 결과, 연기 기반 방법은 제어 가능한 연기 비율을 유지하면서도 더 형평성 있는 결과를 달성할 수 있음을 보여준다.
• 연기 모델의 선택은 형평성 지표에 큰 영향을 미치며, 조건부 및 무조건적 오류율 정의 방식은 시스템 성능에 대해 서로 다른 해석을 제공한다.