[논문 리뷰] Escaping the Impossibility of Fairness: From Formal to Substantive Algorithmic Fairness

Ben Green|arXiv (Cornell University)|2021. 07. 09.

Ethics and Social Impacts of AI참고 문헌 15인용 수 11

한 줄 요약

이 논문은 알고리즘적 의사결정에서의 '공정성의 불가능성'을 도전하며, 의사결정을 광범위한 사회적 맥락에서 분리하는 공식적 공정성 정의를 비판한다. 실질적 알고리즘 공정성—법적 및 철학적 실질적 평등 이론을 바탕으로 한 방법론—을 제안하여 수학적 제약에도 불구하고 공공정책 응용에서 의미 있는 형평성을 확보하는 데 초점을 맞춘다.

ABSTRACT

Efforts to promote equitable public policy with algorithms appear to be fundamentally constrained by the "impossibility of fairness" (an incompatibility between mathematical definitions of fairness). This technical limitation raises a central question about algorithmic fairness: How can computer scientists and policymakers support equitable policy reforms with algorithms? In this article, I argue that promoting justice with algorithms requires reforming the methodology of algorithmic fairness. First, I diagnose the problems of the current methodology for algorithmic fairness, which I call "formal algorithmic fairness." Because formal algorithmic fairness restricts analysis to isolated decision-making procedures, it leads to the impossibility of fairness and to models that exacerbate oppression despite appearing "fair." Second, I draw on theories of substantive equality from law and philosophy to propose an alternative methodology, which I call "substantive algorithmic fairness." Because substantive algorithmic fairness takes a more expansive scope of analysis, it enables an escape from the impossibility of fairness and provides a rigorous guide for alleviating injustice with algorithms. In sum, substantive algorithmic fairness presents a new direction for algorithmic fairness: away from formal mathematical models of "fair" decision-making and toward substantive evaluations of whether and how algorithms can promote justice in practice.

연구 동기 및 목표

• 현재의 공식적 알고리즘 공정성 방법론의 한계를 진단함: 의사결정 절차를 고립된 상태에서만 분석하도록 제한함.
• 수학적으로 '공정한' 알고리즘이 여전히 체계적 억압을 유지하는 역설을 해결함.
• 실제 사회 정의 영향을 기반으로 알고리즘을 평가하는 새로운 프레임워크—실질적 알고리즘 공정성—을 제안함.
• 공식적 수학적 공정성에서 실질적, 맥락 민감한 알고리즘 정의의 평가로 초점을 전환함.
• 알고리즘이 진정으로 형평성 있는 정책 개혁을 지원할 수 있도록 이끌어내는 체계적이고 이론 기반의 대안을 제공함.

제안 방법

• 법학 및 철학에서의 실질적 평등 이론을 바탕으로, 논문은 공정성을 수학적 정의를 넘어서 재정의한다.
• 역사적, 구조적, 맥락적 요소가 알고리즘 결과에 미치는 영향를 포함하는 더 넓은 분석 범위를 주장한다.
• 고립된 공정성 지표 준수 여부로가 아니라, 알고리즘이 사회 정의를 증진하거나 훼손하는 데서의 역할을 평가한다.
• 권력 구조, 역사적 소외, 제도적 맥락이 알고리즘 영향 평가에서 중요한 역할을 한다고 강조한다.
• 비판적 인종 이론과 비판적 법학 연구를 통합하여 알고리즘 시스템 평가에 기여한다.
• 알고리즘 공정성을 순수 기술적 최적화 문제로 보는 것이 아니라, 규범적이고 맥락에 따라 달라지는 탐구로 프레임워크를 재정의한다.

실험 결과

연구 질문

• RQ1 왜 공식적 공정성 정의는 알고리즘적 의사결정에서 체계적 억압을 방지하지 못하는가?
• RQ2 어떻게 알고리즘 공정성을 재정의하여 수학적 불일치를 넘어서 정의를 실현할 수 있는가?
• RQ3 공정성 지표 준수에도 불구하고 역사적 및 구조적 권력 역학이 알고리즘 결과에 어떤 영향을 미치는가?
• RQ4 역사적 및 구조적 권력 역학이 알고리즘 결과에 어떤 영향을 미치는가?
• RQ5 알고리즘을 고립된 공정성뿐 아니라 실제 사회 형평성에 대한 영향으로 평가하는 방법은 무엇인가?

주요 결과

• 공식적 알고리즘 공정성은 의사결정을 광범위한 사회적 역사적 맥락에서 분리함으로써 '공정성의 불가능성'을 초래한다.
• 수학적 공정성 정의는 구조적 불평등을 고려하지 않으면 손해를 방지하는 데 부족하다.
• 실질적 알고리즘 공정성은 체계적 불평등을 식별하고 완화할 수 있는 더 엄격하고 맥락 인식이 된 알고리즘 평가를 가능하게 한다.
• 이 프레임워크는 고립된 공정성 지표로만 평가할 경우 여전히 억압을 유지하는 '공정한' 알고리즘을 식별할 수 있다.
• 실질적 평등에 기반한 공정성은 알고리즘이 형평성 있는 공공정책을 지원하는 실질적인 길을 제공한다.
• 논문은 알고리즘 공정성이 순수 기술적 최적화 과제가 아니라 규범적이고 정의 중심의 탐구로 재정의되어야 한다고 입증한다.