[논문 리뷰] Fairness in Machine Learning: Lessons from Political Philosophy

Reuben Binns|arXiv (Cornell University)|2017. 12. 10.

Ethics and Social Impacts of AI참고 문헌 32인용 수 390

한 줄 요약

본 논문은 차별 및 평등주의에 관한 철학 이론을 조사하여 머신러닝에서 '공정성'이 무엇을 의미하는지 명확히 하고, 다양한 맥락에서 어떤 공정성 지표와 접근법이 적합한지 안내한다.

ABSTRACT

What does it mean for a machine learning model to be `fair', in terms which can be operationalised? Should fairness consist of ensuring everyone has an equal probability of obtaining some benefit, or should we aim instead to minimise the harms to the least advantaged? Can the relevant ideal be determined by reference to some alternative state of affairs in which a particular social pattern of discrimination does not exist? Various definitions proposed in recent literature make different assumptions about what terms like discrimination and fairness mean and how they can be defined in mathematical terms. Questions of discrimination, egalitarianism and justice are of significant interest to moral and political philosophers, who have expended significant efforts in formalising and defending these central concepts. It is therefore unsurprising that attempts to formalise `fairness' in machine learning contain echoes of these old philosophical debates. This paper draws on existing work in moral and political philosophy in order to elucidate emerging debates about fair machine learning.

연구 동기 및 목표

• 차별에 대한 철학적 개념이 머신러닝의 공정성 문제에 어떻게 대응되는지 명확히 한다.
• 다양한 평등주의 프레임워크가 ML에서의 공정성 지표의 선택과 우선순위 설정에 어떻게 정보를 제공하는지 탐구한다.
• ML 시스템의 공정성 개입에 영향을 주어야 하는 맥락적 및 역사적 요인을 강조한다.

제안 방법

• 차별의 핵심 철학 이론들(정신상태 기반 대 비정신상태 계정)을 조사하고 통합한다.
• 평등주의 논쟁(평등주의의 화폐성, 정의의 영역, 행운 대 운명, 의무론적 정의)을 검토한다.
• 철학적 분석을 일반적인 ML 공정성 지표(인구통계적 동등성, 정확도 형평성, 기회의 평등, 차별적 취급)와 연결한다.
• 역사적, 사회학적, 맥락적 요인들이 특징 선택과 공정성 개입에 어떻게 정보를 주는지 논의한다.

실험 결과

연구 질문

• RQ1 알고리즘 의사결정에서 차별에 해당하는지 여부와 그것이 언제 도덕적으로 문제가 되는지?
• RQ2 다른 평등주의 이론들이 어떻게 공정 ML의 기준으로 번역되는가(예: 결과의 평등 대 기회의 평등, 행운 평등주의에 따른 고려)
• RQ3 역사적 및 사회학적 맥락이 ML의 공정성 평가와 완화 전략에 어떤 방식으로 영향을 미쳐야 하는가?
• RQ4 ML 공정성에서 표현적 피해와 분배적 피해의 관련성은 무엇인가?

주요 결과

• 철학의 차별 개념(정신상태 기반 및 일반화 기반 계정)은 알고리즘에 직접적으로 적용되는 경우가 제한적이며, 대안적 공정성 기초를 시사한다.
• 평등주의 이론은 더 풍부한 프레임워크를 제공한다(평등주의의 화폐성, 정의의 영역, 행운 대 공로, 의무법적 정의를 포함하여) ML의 공정성 개입을 정당화하고 우선순위를 정하는 데 도움을 준다.
• ML의 공정성은 서로 양립하기 어려운 지표 간의 절충을 포함하는 경우가 많으며(예: 정확도 형평성 vs. 거짓양성률의 동질화), 이를 의무론적 및 역사적 고려를 통해 더 잘 이해할 수 있다.
• 표현적 피해(예: 편향된 문화적 표상)는 분배적 피해와 다른 공정성 목표를 필요로 하며, ML 시스템에 고유한 도전을 제시한다.
• 정의의 영역과 과거의 역사적 불의와 같은 맥락적 요인은 특정 맥락에서 어떤 공정성 지표와 완화책이 적합한지 가이드해야 한다.