[논문 리뷰] Distributive Justice and Fairness Metrics in Automated Decision-making: How Much Overlap Is There?

Matthias Kuppler, Christoph Kern외 2명|arXiv (Cornell University)|2021. 05. 04.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 자동화된 의사결정에서의 공정성 지표가 단지 반차별 원칙이 아니라 분배적 정의론 이론에 기반해야 한다고 주장한다. 예측 작업(현실의 정확한 모델링)과 의사결정 작업(정의에 기반한 규범적 배분)을 구분함으로써, 저자들은 현재의 공정성 지표가 보호 그룹 간 결과의 균등성에 집중함으로써 엘리타리즘, 충분성, 우선성과 같은 보다 광범위한 정의 원칙을 포착하지 못하며, 이로 인해 알고리즘 시스템의 윤리적 설계가 제한된다고 보여준다.

ABSTRACT

The advent of powerful prediction algorithms led to increased automation of high-stake decisions regarding the allocation of scarce resources such as government spending and welfare support. This automation bears the risk of perpetuating unwanted discrimination against vulnerable and historically disadvantaged groups. Research on algorithmic discrimination in computer science and other disciplines developed a plethora of fairness metrics to detect and correct discriminatory algorithms. Drawing on robust sociological and philosophical discourse on distributive justice, we identify the limitations and problematic implications of prominent fairness metrics. We show that metrics implementing equality of opportunity only apply when resource allocations are based on deservingness, but fail when allocations should reflect concerns about egalitarianism, sufficiency, and priority. We argue that by cleanly distinguishing between prediction tasks and decision tasks, research on fair machine learning could take better advantage of the rich literature on distributive justice.

연구 동기 및 목표

• 기계학습에서의 공정성 지표와 정립된 분배적 정의론 이론 사이의 개념적 갭을 명확히 하기 위해.
• 현재의 공정성 지표가 엘리타리즘, 충분성, 우선성과 같은 분배적 정의론의 핵심 원칙을 포착하지 못함을 입증하기 위해.
• 자동화된 시스템에서 예측(현실 모델링)과 의사결정(규범적 배분) 작업 간의 명확한 구분을 주장하기 위해.
• 개발자와 도메인 전문가가 맥락 기반 정의론 이론에 따라 적절한 배분 규칙을 공동으로 선택하도록 장려하기 위해.
• 철학적 및 사회학적 정의 이론에 대한 통찰을 통합함으로써 공정한 기계학습의 의사결정 공간을 확장하기 위해.

제안 방법

• 철학적 및 사회학적 문헌에서 주요 분배적 정의론 이론(예: 엘리타리즘, 충분론, 우선론)을 체계적으로 검토한다.
• 기계학습에서의 주요 공정성 지표(예: 민족적 균형, 동일 기회)를 분석하고, 이들을 해당 정의론 이론에 대응시킨다.
• 예측 작업(실제 결과의 모델링)과 의사결정 작업(도덕적 가치에 기반한 공정한 배분 규칙 정의)을 구분하는 개념적 프레임워크를 도입한다.
• 예측 모델이 기존 사회적 편견을 정확히 반영함으로써 수정 가능한 의사결정 규칙을 가능하게 해야 하며, 그로 인해 그룹 간 동일한 출력을 내도록 제약을 둬서는 안 된다고 주장한다.
• 공정성 지표는 공정성 이론이 정의한 바람직한 결과와 실제 결과(모델링된 결과) 사이의 이탈을 감지해야 하며, 그 자체로 균등성을 강제해서는 안 된다고 제안한다.
• 기술적 개발자와 도메인 전문가 간의 이해관계자 협업을 강조하여 맥락에 적합한 배분 규칙을 정의한다.

실험 결과

연구 질문

• RQ1 기계학습에서의 기존 공정성 지표가 정립된 분배적 정의론 이론과 어느 정도 일치하는가?
• RQ2 왜 현재의 공정성 지표가 자동화된 의사결정에서 엘리타리즘, 충분성, 우선성과 같은 원칙을 포착하지 못하는가?
• RQ3 예측과 의사결정 작업 간의 구분이 알고리즘 시스템의 윤리적 설계를 어떻게 향상시킬 수 있는가?
• RQ4 분배적 정의론 이론이 실세계 적용을 위한 공정성 지표를 설계하는 데 어떤 역할을 해야 하는가?
• RQ5 공정성 지표는 예측 정확도를 왜곡하지 않으면서도 규범적 정의 이상에 대한 이탈을 감지할 수 있도록 어떻게 형식화할 수 있는가?

주요 결과

• 민족적 균형, 동일 기회와 같은 현재의 공정성 지표는 반차별 논리에 국한되어 있으며, 엘리타리즘 또는 우선성과 같은 보다 광범위한 분배적 정의론 원칙과 일치하지 않는다.
• 예측 모델은 윤리적 수정을 위한 의사결정 규칙을 가능하게 하기 위해 실제 사회적 격차를 정확히 반영해야 하며, 공정성 지표는 모델 정확도를 제약해서는 안 된다.
• 기회 균등은 배분이 정당성에 기반할 때만 적용되며, 엘리타리즘 또는 충분론 원칙이 관련될 때는 적용되지 않는다.
• 예측과 의사결정 작업을 구분하지 못함으로써 공정한 기계학습에서 정의 개념이 지나치게 좁아진다.
• 충분론과 우선론과 같은 분배적 정의론 이론은 고위험 배분에 있어 관련성이 높음에도 불구하고, 공정성 지표 설계에서 부족하게 다뤄지고 있다.
• 예측과 의사결정 작업 간의 명확한 분리가 더 유연하고 윤리적으로 기반된, 맥락에 민감한 배분 시스템을 가능하게 한다.