[논문 리뷰] Welfare and Distributional Impacts of Fair Classification

Lily Hu, Yiling Chen|arXiv (Cornell University)|2018. 07. 03.

Ethics and Social Impacts of AI참고 문헌 5인용 수 15

한 줄 요약

이 논문은 정의로운 분류를 분포 문제로 재해석함으로써 분류기 결정을 사회적 복지 가중치로 번역하는 복지 최대화 프레임워크를 제안한다. 제약 조건이 붙은 손실 최소화를 복지 경제학의 계획자 문제로 매핑함으로써, 공정성 제약이 개인 및 집단의 복지에 어떻게 영향을 미치는지 드러내며, 선형 SVM를 사용한 이元 분류에서 정확도, 형평성, 분배 정의 간의 상호작용을 평가할 수 있는 규범적 시각을 제공한다.

ABSTRACT

Current methodologies in machine learning analyze the effects of various statistical parity notions of fairness primarily in light of their impacts on predictive accuracy and vendor utility loss. In this paper, we propose a new framework for interpreting the effects of fairness criteria by converting the constrained loss minimization problem into a social welfare maximization problem. This translation moves a classifier and its output into utility space where individuals, groups, and society at-large experience different welfare changes due to classification assignments. Under this characterization, predictions and fairness constraints are seen as shaping societal welfare and distribution and revealing individuals' implied welfare weights in society--weights that may then be interpreted through a fairness lens. The social welfare formulation of the fairness problem brings to the fore concerns of distributive justice that have always had a central albeit more implicit role in standard algorithmic fairness approaches.

연구 동기 및 목표

• 정확도와 형평성 지표 간의 트레이드오프로 환원되는 정의로운 기계 학습의 격차를 메우기 위해 사회적 복지 프레임워크를 도입하는 것.
• 기계 학습에서 제약 조건이 붙은 손실 최소화와 경제학에서의 사회적 복지 최대화 간의 관계를 체계화하여 분배적 영향을 분석할 수 있도록 하는 것.
• 공정성 제약 조건을 암시적 사회적 복지 가중치의 이동으로 해석함으로써, 다양한 공정성 기준이 개인과 집단에 어떻게 영향을 미치는지 드러내는 것.
• 선형 SVM에서 정의로운 분류기 조정으로부터 새로운 복지 가중치 함수를 유도하는 기하학적 및 분석적 방법을 제공하는 것.
• 모델 행동을 사회적 수준의 형평성과 효용 분포와 연결함으로써, 공정성 방법의 규범적 평가를 가능하게 하는 것.

제안 방법

• 경험적 리스크 최소화를 사회적 복지 최대화 문제로 재구성하여, 개인의 효용 가중합을 최대화하는 것을 목표로 한다.
• 개별 개인의 효용에 대한 사회적 평가를 반영한 복지 기능을 도입한다.
• 계획자 문제를 뒤집어, 주어진 분류기의 할당이 최적임을 정당화하는 데 필요한 암시적 복지 가중치 함수를 유추한다.
• 원래 분류기 마진 h(x)를 새로운 마진 h′(x)로 매핑하기 위해 선형 변환 T를 사용하며, 이로써 새로운 복지 가중치 w′(h′(x), xm)를 유도할 수 있다.
• 데이터 포인트에서 새로운 결정 경계까지의 거리 D(x, T(hx))의 총미분 분석을 통해 새로운 복지 가중치 함수 w′의 조건을 유도한다.
• 직교 투영 Ph 및 Ph′을 사용한 기하학적 분석을 통해, 결정 경계의 이동에 따라 복지 가중치의 변화를 계산한다.

실험 결과

연구 질문

• RQ1 기계 학습에서의 공정성은 정확도 트레이드오프를 넘어서 사회적 복지 분배 문제로 재해석될 수 있는가?
• RQ2 이원 분류 작업에서 학습된 주어진 분류기에 대응하는 암시적 사회적 복지 가중치 함수는 무엇인가?
• RQ3 공정성 제약 조건은 분류기 출력에서 개인 및 집단 간 복지 가중치 분포에 어떻게 영향을 미치는가?
• RQ4 분류기의 결정 경계 변환을 사회적 복지 가중치 변화와 분석적으로 연결할 수 있는가?
• RQ5 공정성 조정이 가진 분류기가 최적의 사회적 복지 할당에 해당하는 기하학적 및 수학적 조건은 무엇인가?

주요 결과

• 논문은 정의로운 분류와 사회적 복지 최대화 사이에 공식적인 매핑을 수립하여, 공정성 제약 조건이 암시적 사회적 복지 가중치의 이동과 대응됨을 보여준다.
• 공정성 조정을 통한 결정 경계의 변환은 새로운 경계까지의 거리의 총미분 분석을 통해 분석적으로 유도할 수 있는 복지 가중치의 변화를 유도한다.
• 새로운 복지 가중치 함수 w′(h′(x), xm)는 거리 D(x, T(hx))의 변화와 원래 가중치 함수가 이 거리 및 개인 특성 xm에 대해 얼마나 민감한지에 따라 결정된다.
• 이 방법은 원래 분류기와 공정성 분류기의 가중치 분포를 직접 비교할 수 있게 하여, 공정성이 개인에 대한 사회적 평가에 어떻게 영향을 미치는지 드러낸다.
• 이 프레임워크는 집단 수준 및 개인 수준의 복지 기여도에 영향을 미치는 정도를 정량화함으로써, 공정성 방법의 규범적 평가를 가능하게 한다.
• 선형 변환 T를 통한 기하학적 해석을 통해, 원래 결정 경계에서 새로운 결정 경계로의 투영을 매핑함으로써 공정성 조정의 기하학적 의미를 제공한다.