[논문 리뷰] Review of Mathematical frameworks for Fairness in Machine Learning

Eustasio del Barrio, Paula Gordaliza외 1명|arXiv (Cornell University)|2020. 05. 26.

Ethics and Social Impacts of AI참고 문헌 95인용 수 20

한 줄 요약

이 논문은 기계학습에서 정의된 공정성 기준과 공정한 학습 방법론에 대한 수학적 검토를 제시하며, 통계적 평등성과 동일한 기회와 같은 독립성 기반 공정성 기준에 초점을 맞춘다. 등가의 기회 기준 하에서 가우시안 선형 모델을 사용하여 최적의 공정한 분류기와 예측기를 유도하며, 폐쇄형 표현식과 이중 최적화 기반의 방법을 통해 성능 저하—'공정성의 대가'—를 정량화한다.

ABSTRACT

A review of the main fairness definitions and fair learning methodologies proposed in the literature over the last years is presented from a mathematical point of view. Following our independence-based approach, we consider how to build fair algorithms and the consequences on the degradation of their performance compared to the possibly unfair case. This corresponds to the price for fairness given by the criteria $ extit{statistical parity}$ or $ extit{equality of odds}$. Novel results giving the expressions of the optimal fair classifier and the optimal fair predictor (under a linear regression gaussian model) in the sense of $ extit{equality of odds}$ are presented.

연구 동기 및 목표

• 엄밀한 확률론적 및 통계적 시각에서 기계학습의 공정성에 대한 수학적 프레임워크를 체계적으로 검토하기 위해.
• 통계적 평등성과 동일한 기회를 핵심 기준으로 삼아, 민감한 속성과 예측 간의 독립성 제약 조건으로서의 공정성 정의하기 위해.
• 분류 및 회귀 과제에서 공정성 제약 조건을 적용할 경우 성능 저하—'공정성의 대가'—를 정량화하기 위해.
• 가우시안 선형 모델 하에서 등가의 기회 기준에 따라 최적의 공정한 분류기와 예측기를 폐쇄형 표현식으로 도출하기 위해.
• 공정성 제약 조건과 최적화의 이중성 간의 이론적 연결 고리를 수립하여, 공정한 모델을 효율적으로 계산할 수 있도록 하기 위해.

제안 방법

• 예측이 진정한 레이블을 조건으로 하여 민감한 속성과 조건부 독립이 되어야 하므로, 등가의 기회를 정의하는 조건부 독립 제약 조건으로서의 공정성 정의하기.
• 공정성 제약 조건에 대한 라그랑주 승수를 도입하여 최적의 공정한 분류기를 도출하는 이중 최적화 프레임워크 사용하기.
• 조건부 확률과 공정성 페널티를 기반으로 한 임계값 결정 규칙의 지표 함수로 최적의 분류기 유도하기.
• 이중 이론을 적용하여 제약 조건이 있는 최적화 문제를 이중 문제로 변환하여, 가우시안 가정 하에서 분석적 해를 도출하기.
• 정규성 조건 하에서 하위기울기(서브기울기)를 통한 1차 최적성 조건 유도하여, 그룹 간 진짜 양성 및 거짓 양성 비율 간 균형 방정식 유도하기.
• 공정성 제약 조건 하에서 최적의 결정 규칙을 도출하기 위한 기초로 회귀 함수 η(x,s) = P(Y=1|X=x,S=s) 사용하기.

실험 결과

연구 질문

• RQ1 독립성 기준으로 공정성을 정의할 경우 기계학습에서 공정성의 수학적 구조는 어떻게 되는가?
• RQ2 가우시안 선형 모델 하에서 등가의 기회 제약 조건을 만족하는 최적의 공정한 분류기를 어떻게 분석적으로 도출할 수 있는가?
• RQ3 통계적 평등성 또는 등가의 기회 기준을 적용할 경우 성능 저하—'공정성의 대가'—는 어떻게 측정할 수 있는가?
• RQ4 이중 표현식에서의 라그랑주 승수는 공정성 제약 조건과 그룹별 오차 비율 간에 어떻게 관련되는가?
• RQ5 선형 회귀 가우시안 모델에 공정성 제약 조건을 적용할 경우 최적의 공정한 예측기는 폐쇄형으로 표현될 수 있는가?

주요 결과

• 등가의 기회 기준 하에서 최적의 공정한 분류기는 회귀 함수와 공정성 라그랑주 승수를 포함한 임계값 결정 규칙의 지표 함수로 주어진다.
• 공정성의 대가는 최적의 공정한 분류기와 베이즈 분류기 간의 기대 손실 차이로 정량화되며, 가우시안 모델 하에서 명시적인 표현식이 도출되었다.
• λ₀ = 0일 경우 유도된 최적의 분류기는 이전 연구에서의 동일한 기회 분류기로 축소되며, 기존 문헌과의 일致성을 검증한다.
• 최적의 공정한 분류기는 등가의 기회 조건을 만족한다: 그룹 S=0과 S=1 간의 진짜 양성 및 거짓 양성 비율이 동일하다.
• 이중 문제의 최적성 조건은 그룹별로 결정 규칙의 기대값을 연결하는 균형 방정식을 도출하여, 조건부 확률에서의 공정성을 보장한다.
• 이중성에 의해 최적임이 입증되어, 유도된 분류기가 공정성 제약 조건 하에서 기대 손실을 최소화하는 것으로 밝혀졌다.