[논문 리뷰] An Axiomatic Theory of Provably-Fair Welfare-Centric Machine Learning

Cyrus Cousins|arXiv (Cornell University)|2021. 04. 29.

Ethics and Social Impacts of AI참고 문헌 44인용 수 4

한 줄 요약

이 논문은 공정한 기계학습에서 전통적인 유틸리티 기반 복지 이론에 대한 축약된 대안으로 사회적 피해를 측정하는 복지 이론적 척도인 malfare를 도입한다. 그룹의 위험 값에 대한 malfare 최소화 문제로 공정한 학습을 재정의함으로써 새로운 이론적 기반을 구축하고, 적당한 조건 하에서 표준 PAC 학습기들이 공정-PAC 학습기로 변환될 수 있음을 증명하며, 공정한 모델 학습을 위한 통계적 및 계산적 효율성 보장을 제공한다.

ABSTRACT

We address an inherent difficulty in welfare-theoretic fair machine learning by proposing an equivalently axiomatically-justified alternative and studying the resulting computational and statistical learning questions. Welfare metrics quantify overall wellbeing across a population of one or more groups, and welfare-based objectives and constraints have recently been proposed to incentivize fair machine learning methods to produce satisfactory solutions that consider the diverse needs of multiple groups. Unfortunately, many machine-learning problems are more naturally cast as loss minimization tasks, rather than utility maximization, which complicates direct application of welfare-centric methods to fair machine learning. In this work, we define a complementary measure, termed malfare, measuring overall societal harm (rather than wellbeing), with axiomatic justification via the standard axioms of cardinal welfare. We then cast fair machine learning as malfare minimization over the risk values (expected losses) of each group. Surprisingly, the axioms of cardinal welfare (malfare) dictate that this is not equivalent to simply defining utility as negative loss. Building upon these concepts, we define fair-PAC (FPAC) learning, where an FPAC learner is an algorithm that learns an $\varepsilon$-$δ$ malfare-optimal model with bounded sample complexity, for any data distribution, and for any (axiomatically justified) malfare concept. Finally, we show broad conditions under which, with appropriate modifications, standard PAC-learners may be converted to FPAC learners. This places FPAC learning on firm theoretical ground, as it yields statistical and computational efficiency guarantees for many well-studied machine-learning models, and is also practically relevant, as it democratizes fair ML by providing concrete training algorithms and rigorous generalization guarantees for these models

연구 동기 및 목표

• 기계학습에서 복지 중심의 공정성과 천연 손실 최소화 프레임워크 사이의 괴리 문제를 해결하기 위해.
• 손실을 음수 유틸리티로 사용하는 복지 기반의 사회적 피해 측정 척도로 malfare를 축약적으로 제안하여 위험 최소화 목표와 더 잘 부합시키기 위해.
• 통계적 및 계산적 효율성을 확보하기 위한 공식적 프레임워크인 공정-PAC 학습(fair-PAC learning)을 수립하기 위해.
• 표준 PAC-학습기가 유한한 표본 복잡도와 일반화 보장을 갖는 공정-PAC 학습기로 체계적으로 변환될 수 있음을 보여주기 위해.
• 특히 비-Lipschitz 행동 하에서 malfare 최소화가 복지 최대화보다 본질적으로 더 안정적이고 다룰 수 있음을 보여주기 위해.

제안 방법

• malfare를 음수 유틸리티(손실)에 적용한 카디널 복지 축약 원리에 기반한 그룹 위험 값의 거듭제곱 평균으로 정의한다.
• 위험 최소화를 위한 수정을 가한 표준 카디널 복지 축약 원리를 사용하여 malfare의 축약적 정당성을 확립한다.
• 공정-PAC(FPAC) 학습을 도입: 어떤 데이터 분포에 대해서든 유한한 표본 복잡도를 갖는 ε-δ malfare 최적 모델을 학습하는 알고리즘이다.
• 유한 표본에서 malfare를 추정하기 위해 경험적 malfare 최소화 원리를 적용하고, 이론적 수렴 보장을 제공한다.
• 균일 수렴 및 커버링 추론을 활용하여 FPAC 학습의 계산적 및 통계적 효율성을 증명한다.
• 볼록 최적화 기반 학습기가 적당한 조건 하에서 효율적으로 FPAC 학습으로 변환될 수 있음을 보여준다.

실험 결과

연구 질문

• RQ1 malfare 최소화는 손실을 음수 유틸리티로 사용하는 복지 함수를 최대화하는 것과 동치인가?
• RQ2 표준 PAC-학습기를 체계적으로 유한한 표본 복잡도를 갖는 공정-PAC 학습기로 변환할 수 있는가?
• RQ3 실현 가능성 및 일반 설정 하에서 malfare 최소화의 통계적 및 계산적 학습 보장을 무엇인가?
• RQ4 왜 malfare 최소화가 공정 학습에서 복지 최대화보다 더 다룰 수 있는가?
• RQ5 균일 수렴과 PAC-학습 가능성 간의 차이가 존재하는 손실 함수에 대해, 일반 FPAC-학습 가능성과 PAC-학습 가능성은 동치인가?

주요 결과

• malfare 최소화는 유틸리티 = -손실인 복지 함수를 최대화하는 것과 동치가 아니며, 이는 축약 원리의 비등가성과 안정성의 차이 때문이 다.
• 공정-PAC 학습은 모든 데이터 분포에서 malfare 최적 모델에 대해 유한한 표본 복잡도와 일반화 보장을 제공한다.
• 이론적 분석에 따르면 실현 가능성 조건 하에서 FPAC-학습 가능성은 표본 복잡도 측면에서 PAC-학습 가능성과 동치이다.
• malfare 함수는 수축 성질을 보이며(정리 2.6, 항목 3), 이는 복지 함수와 달리 균일한 표본 복잡도 상한을 보장한다.
• p ∈ [0,1)인 복지 함수, 예를 들어 나이스 사회복지함수는 리프시츠 연속성이 없으며, 추정 시 유한하지 않은 표본 복잡도를 보일 수 있다.
• 볼록 최적화 및 커버링 조건이 만족될 경우, 많은 잘 알려진 모델에 대해 FPAC 학습은 계산적으로 가능하다.