[논문 리뷰] The Measure and Mismeasure of Fairness

Sam Corbett‐Davies, Gaebler, Johann D.외 3명|arXiv (Cornell University)|2018. 07. 31.

Ethics and Social Impacts of AI참고 문헌 50인용 수 472

한 줄 요약

논문은 인기 있는 형식적 공정성 정의를 두 가족으로 분류하고, 이들이 종종 파레토 지배를 받는 정책으로 이어지며, 결과주의적이고 정책에 맞춘 공정한 알고리즘 설계 접근법의 필요성을 주장한다.

ABSTRACT

The field of fair machine learning aims to ensure that decisions guided by algorithms are equitable. Over the last decade, several formal, mathematical definitions of fairness have gained prominence. Here we first assemble and categorize these definitions into two broad families: (1) those that constrain the effects of decisions on disparities; and (2) those that constrain the effects of legally protected characteristics, like race and gender, on decisions. We then show, analytically and empirically, that both families of definitions typically result in strongly Pareto dominated decision policies. For example, in the case of college admissions, adhering to popular formal conceptions of fairness would simultaneously result in lower student-body diversity and a less academically prepared class, relative to what one could achieve by explicitly tailoring admissions policies to achieve desired outcomes. In this sense, requiring that these fairness definitions hold can, perversely, harm the very groups they were designed to protect. In contrast to axiomatic notions of fairness, we argue that the equitable design of algorithms requires grappling with their context-specific consequences, akin to the equitable design of policy. We conclude by listing several open challenges in fair machine learning and offering strategies to ensure algorithms are better aligned with policy goals.

연구 동기 및 목표

• 의사결정 간의 격차를 제약하는지 또는 의사결정에서 보호 속성의 영향력을 제약하는지 여부에 따라 기존의 형식적 공정성 정의를 두 가족으로 분류한다.
• 이러한 공정성 개념들이 다양한 효용 함수에 걸쳐 종종 강하게 파레토 지배를 받는 정책으로 이어진다는 것을 해석적으로 및 경험적으로 입증한다.
• 대학 입시 등 현실 세계의 맥락에서 전통적 공정성 기준이 보호하려는 집단에 오히려 해를 끼칠 수 있음을 보여준다.
• 정책 목표와 맥락별 트레이드오프를 전면에 내세워 공정한 알고리즘을 설계하는 방법에 대해 조언한다.

제안 방법

• 공변량 X, 보호 속성 A, 이진 의사결정 D, 예산 제약 b 하의 결과 Y를 특징으로 하는 형식적 설정을 제안한다.
• 인구통계적 동등성, 거짓 양성률의 동등화, 인과적/반사실 공정성 변형을 포함한 여러 공정성 개념을 정의하고 논의한다.
• 보호 속성에서 의사결정으로의 합법적 경로와 위법적 경로를 구분하기 위해 인과 DAG를 사용하여 경로별 공정성을 제시한다.
• 보호 속성을 바꿨을 때 특정 인과 경로를 따라 의사결정에 어떤 영향을 미치는지 분석하기 위한 반사실적 및 경로별 구성들을 제시한다.
• 알고리즘 의사결정을 정책 수단으로 간주하고 더 넓은 영향을 검토하는 결과주의적 프레임워크를 주장한다.

실험 결과

연구 질문

• RQ1 공정 ML에서 사용되는 주요 형식적 공정성 정의의 두 가족은 무엇이며, 격차 처리와 보호 속성에 대한 처리 방식에서 어떻게 차이가 있는가?
• RQ2 일반적으로 강제되는 공정성 기준은 자연스러운 효용 프레임에 걸쳐 파레토 지배를 받는 의사결정 정책으로 이어지는가?
• RQ3 공정성을 인과적/경로특정한 관점으로 어떻게 개념화할 수 있으며, 정책 정합형 알고리즘 설계에 대한 실질적 시사점은 무엇인가?
• RQ4 무지로 인한 공리적 공정성보다는 정책 목표에 맞춘 공정한 알고리즘 설계에 대한 지침은 무엇인가?
• RQ5 외부효과가 있는 맥락(예: 대학 입학)과 없는 맥락에서 공정한 의사결정을 구현하기 위한 구체적 권고는 무엇인가?

주요 결과

• 대중적인 공정성 정의는 다양한 효용 함수에 걸쳐 강하게 파레토 지배를 받는 정책을 낳을 수 있다.
• 공리적 공정성 기준을 강제하는 것은 맞춤형 결과 주도 정책에 비해 대학 입학에서 다양성과 학문적 준비도를 감소시킬 수 있다.
• 보호 속성을 가리는 것이 보정(calibration)을 보장하지 않으며 의미 있는 격차를 가리게 할 수 있다.
• 경로별 공정성과 반사실적 공정성은 의사결정에서 합법적 인과 경로와 위법적 경로를 구분해 미세한 시각을 제공한다.
• 결과주의적이고 정책 인식이 있는 알고리즘 설계 접근은 실제 현장의 형평성 목표와 트레이드오프에 더 잘 부합한다.