[논문 리뷰] Fairness-aware Classification: Criterion, Convexity, and Bounds

Yongkai Wu, Lu Zhang외 1명|arXiv (Cornell University)|2018. 09. 13.

Ethics and Social Impacts of AI참고 문헌 19인용 수 16

한 줄 요약

이 논문은 공정성 인식 분류를 일반적이고 이론적으로 탄탄한 프레임워크로 제안하며, 위험 차이, 위험 비율, 동등한 오dds와 같은 공통된 공정성 메트릭을 최적화 내에서 볼록 제약 조건으로 수식화한다. 학습 데이터에 대한 제약 조건이 없는 공정성 기준을 도입하고, 대체 함수에 대한 경계를 유도하여 실제 공정성 메트릭이 유지되도록 보장함으로써 실질적인 공정성 보장과 계산 효율성을 동시에 확보한다.

ABSTRACT

Fairness-aware classification is receiving increasing attention in the machine learning fields. Recently research proposes to formulate the fairness-aware classification as constrained optimization problems. However, several limitations exist in previous works due to the lack of a theoretical framework for guiding the formulation. In this paper, we propose a general framework for learning fair classifiers which addresses previous limitations. The framework formulates various commonly-used fairness metrics as convex constraints that can be directly incorporated into classic classification models. Within the framework, we propose a constraint-free criterion on the training data which ensures that any classifier learned from the data is fair. We also derive the constraints which ensure that the real fairness metric is satisfied when surrogate functions are used to achieve convexity. Our framework can be used to for formulating fairness-aware classification with fairness guarantee and computational efficiency. The experiments using real-world datasets demonstrate our theoretical results and show the effectiveness of proposed framework and methods.

연구 동기 및 목표

• 공정성 인식 분류를 볼록 최적화 문제로 통합된 이론적 프레임워크로 제안하는 것.
• 이전 연구의 한계, 즉 비볼록성, 고전적 공정성 개념과의 연결 부족, 대체 함수에 의한 추정 오차를 극복하는 것.
• 학습 데이터에 대한 조건을 제시하여, 추가적인 제약 조건 없이도 학습된 분류기가 항상 공정함을 보장하는 것.
• 대체 기반 제약 조건과 실제 공정성 메트릭 간의 간격을 경계하여, 근사화에도 불구하고 공정성이 유지됨을 보장하는 것.
• 기존 방법과 비교해 더 나은 예측 정확도 및 공정성의 상호보완적 조건을 확보한 효율적인 공정 분류를 가능하게 하는 것.

제안 방법

• 특성 분포에 대한 기대값을 사용하여 위험 차이, 위험 비율, 동등한 오dds와 같은 공정성 메트릭을 볼록 제약 조건으로 수식화한다.
• 제약 조건이 없는 공정성 기준을 도입: 학습 데이터가 조건부 확률과 보호된 특성 간의 특정 조건을 만족하면, 이 데이터로 학습된 모든 분류기는 본질적으로 공정하다.
• 볼록 최적화에서 사용하는 대체 함수 기반으로 실제 공정성 측정치에 대한 이론적 경계(하한 및 상한)를 도출한다.
• 대체 함수가 0에서 볼록하고 미분 가능하며, 양의 도함수를 가짐으로써 경계가 유효하고 날카로워지도록 보장한다.
• 기대값 기반 표현을 사용하여 위험 비율, 동등한 오dds, 동등한 기회 등의 다양한 공정성 개념의 제약 조건을 재구성함으로써 프레임워크를 다수의 공정성 개념에 적용한다.
• 지표 함수와 그 볼록 대체 함수(예: 힌지 유사 함수)를 사용하여 비볼록 공정성 제약 조건을 볼록하고 다룰 수 있는 형태로 변환한다.

실험 결과

연구 질문

• RQ1 위험 차이 및 위험 비율과 같은 공정성 메트릭을 실제 이론적 의미를 유지하면서도 볼록 제약 조건으로 수식화할 수 있는가?
• RQ2 학습 데이터에 대해 어떤 조건이 존재하면, 이 데이터로 학습된 분류기가 항상 공정함을 보장할 수 있는가? 이는 명시적 공정성 제약 조건의 필요성을 제거한다.
• RQ3 대체 기반 제약 조건과 진정한 공정성 메트릭 사이의 격차를 어떻게 경계할 수 있는가? 이를 통해 실제 공정성이 유지됨을 보장할 수 있는가?
• RQ4 제안된 프레임워크는 동등한 오dds, 동등한 기회 등 여러 공정성 개념으로 확장 가능하며, 이론적 보장이 있는가?
• RQ5 실제로 기존 방법과 비교해 더 나은 공정성-정확도 트레이드오프를 달성하는가?

주요 결과

• 제안된 제약 조건이 없는 공정성 기준은, 조건을 만족하는 데이터로 학습된 모든 분류기가 보장적으로 공정함을 보장하므로, 최적화 과정에서의 공정성 제약 조건이 필요 없어진다.
• 대체 기반 제약 조건과 실제 공정성 메트릭 간의 이론적 경계를 유도하여, 개선된 제약 조건을 만족하면 실제 공정성 측정치가 유한한 구간 내에 있음을 보장한다.
• 실세계 데이터셋에 대한 실험을 통해 제약 조건이 없는 기준의 정확성이 확인되었으며, 이는 기존 접근법보다 더 뛰어난 공정성 성능을 달성함을 보여준다.
• 동일한 수준의 공정성에서 제안된 방법은 기존 방법보다 일관되게 더 높은 예측 정확도를 달성함으로써, 더 나은 공정성-정확도 트레이드오프를 나타낸다.
• 프레임워크는 위험 비율, 동등한 오dds, 동등한 기회 등 다양한 공정성 개념으로 성공적으로 확장되었으며, 이론적 및 실험적 검증을 통과했다.
• 적절한 경계를 가진 볼록 대체 함수의 사용은 공정성 보장을 유지하면서도 계산 효율성을 확보하여, 이전 연구에서의 비볼록 수식의 한계를 극복한다.