[논문 리뷰] A Reductions Approach to Fair Classification

Alekh Agarwal, Alina Beygelzimer외 3명|arXiv (Cornell University)|2018. 03. 06.

Ethics and Social Impacts of AI참고 문헌 24인용 수 111

한 줄 요약

이 논문은 공정 분류를 비용-민감 분류 문제의 연쇄로 축소하여 이진 분류에서 공정성을 보장하는 일반적인 방법을 제시합니다. 이는 공정성 제약 하에서 최소 경험적 오차를 가진 무작위 분류기를 가능하게 하며, 분류기를 블랙박스로 다루고 다양한 공정성 정의에 대해 유한 샘플 보장을 제공합니다.

ABSTRACT

We present a systematic approach for achieving fairness in a binary classification setting. While we focus on two well-known quantitative definitions of fairness, our approach encompasses many other previously studied definitions as special cases. The key idea is to reduce fair classification to a sequence of cost-sensitive classification problems, whose solutions yield a randomized classifier with the lowest (empirical) error subject to the desired constraints. We introduce two reductions that work for any representation of the cost-sensitive classifier and compare favorably to prior baselines on a variety of data sets, while overcoming several of their disadvantages.

연구 동기 및 목표

• 보호 특성에 관한 이진 분류에서의 공정성을 동기 부여하고 형식화한다.
• 모든 분류기 계열에 대해 작동하는 공정 분류를 비용-민감 학습으로의 축소를 제공한다.
• 무작위 분류기가 공정성 제약하에 최상의 정확도를 달성하도록 허용한다.
• 테스트 시점의 보호 특성 속성을 요구하지 않으면서 공정을 달성하기 위한 유한 샘플 보장과 실용 알고리즘을 제공한다.

제안 방법

• 공정성을 조건부 모멘트에 대한 선형 부등식으로 형식화한다: M mu(h) <= c, 이를 통해 DP와 EO를 특수한 경우로 포착한다.
• 제약된 경험적 문제를 라그랑주 승수와 노-리그레트 최적화 프레임워크를 사용하여 샤들 포인트 형태로 축소한다.
• 람다 플레이어에 대해 지수 그래디언트(Exponential Weights) 알고리즘을 사용하고 h-플레이어에 대한 최적 반응 비용-민감 분류기를 사용한다.
• 현재 승수를 포함하는 구성된 비용을 가진 비용-민감 분류 문제로 h-플레이어의 최적 반응을 표현한다.
• 서브최적성, Rademacher 복잡도를 통한 통계적 오차, 및 공정성 제약 위반을 연결하는 유한 샘플 보장을 제공한다.
• 원하면 결정적 분류기를 얻기 위한 승수에 대한 그리드 탐색에 대한 지침을 제공한다.

실험 결과

연구 질문

• RQ1 DP 및 EO와 같은 형식적인 공정성 제약 하에서 이진 분류를 분류기 계열을 제한하지 않고 수행할 수 있는가?
• RQ2 블랙박스 분류기를 축소 프레임워크 내에서 재사용하여 공정성 제약 하에서 최소의 경험적 오차를 달성할 수 있는가?
• RQ3 축소된 비용-민감 학습 문제를 해결할 때 정확도와 공정성에 대한 유한 샘플 보장은 무엇인가?
• RQ4 Lagrange 승수를 통해 공정성 제약을 비용-민감 학습에 어떻게 효과적으로 포함시킬 수 있는가?
• RQ5 무작위 분류기와 결정적 분류기를 사용한 정확도-공정성 트레이드오프의 차이는 무엇인가?

주요 결과

• 공정성 제약 하에서 최소 경험적 오차를 실현하는 비용-민감 분류 문제의 연쇄가 가능하다.
• 람다-플레이어에 대한 Exponential Gradient를 이용한 샤들 포인트 알고리즘은 부분적으로 서브최적성을 갖는 뉴-어프로가를 달성한다.
• 이 접근법은 조건부 모멘트에 대한 선형 부등식으로 표현될 수 있는 많은 공정성 정의를 다루며, DP와 EO를 포함한다.
• 이론적 보장은 통계적 오차(Rademacher 복잡도)를 최적화 오차와 연결하여 최종 분류기의 성능과 연관시킨다.
• 예제들은 DP와 EO가 특정 비용 구성 및 반복 한계로 이어지는 방법을 보여준다.