[논문 리뷰] Ensuring Fairness Beyond the Training Data

Debmalya Mandal, Samuel Deng외 3명|arXiv (Cornell University)|2020. 01. 01.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 훈련 데이터의 분포적 편향에 대해 공정하고 강건한 분류기를 유지할 수 있도록 하는 min-max 프레임워크를 제안한다. 분포로 인한 강건한 최적화 문제를 수립하고 온라인 학습을 활용하여, 다양한 테스트 시점의 분포 이동 상황에서도 공정성과 높은 정확도를 유지하는 분류기로의 증명 가능한 수렴을 달성한다.

ABSTRACT

We initiate the study of fair classifiers that are robust to perturbations in the training distribution. Despite recent progress, the literature on fairness has largely ignored the design of fair and robust classifiers. In this work, we develop classifiers that are fair not only with respect to the training distribution, but also for a class of distributions that are weighted perturbations of the training samples. We formulate a min-max objective function whose goal is to minimize a distributionally robust training loss, and at the same time, find a classifier that is fair with respect to a class of distributions. We first reduce this problem to finding a fair classifier that is robust with respect to the class of distributions. Based on online learning algorithm, we develop an iterative algorithm that provably converges to such a fair and robust solution. Experiments on standard machine learning fairness datasets suggest that, compared to the state-of-the-art fair classifiers, our classifier retains fairness guarantees and test accuracy for a large class of perturbations on the test set. Furthermore, our experiments show that there is an inherent trade-off between fairness robustness and accuracy of such classifiers.

연구 동기 및 목표

• 훈련 데이터를 초월한 분포적 편향 상황에서도 공정성을 유지할 수 있도록 설계된 분류기로 공정성 연구의 격차를 메운다.
• 분포로 인한 강건한 훈련 손실을 최소화하고, 일정한 종류의 편향된 분포에서의 공정성을 보장하는 min-max 목표를 수립한다.
• 증명 가능한 수렴을 보장하는 온라인 학습 기반 반복 알고리즘을 개발하여 공정하고 강건한 분류기에 도달한다.
• 분포 이동 상황에서 공정성 강건성과 모델 정확도 사이의 트레이드오프를 평가한다.

제안 방법

• 훈련 분포의 가중치가 부여된 편향된 분포의 집합에 대해 최악의 위험을 최소화하는 min-max 최적화 문제를 수립한다.
• 지정된 종류의 편향된 분포에 대해 강건한 공정한 분류기를 찾는 문제로 문제를 축소한다.
• 분류기와 쌍대 변수를 반복적으로 업데이트하는 온라인 학습 기반 알고리즘을 활용하여 최적 해에 수렴하도록 보장한다.
• 내부 목표로 공정한 분류기를 사용하며, 고려된 집합 내 모든 편향된 분포에서 공정성을 유지하도록 제약 조건을 설정한다.
• 온라인 학습 이론의 수렴 보장을 활용하여 알고리즘이 공정하고 강건한 해에 도달하도록 보장한다.
• 최적화에 공정성 지표를 제약 조건으로 통합하여 min-max 프레임워크에 공정성 제약 조건을 통합한다.

실험 결과

연구 질문

• RQ1 훈련 데이터의 분포적 편향(가중치가 부여된 변형)이 발생하는 상황에서도 분류기가 여전히 공정성을 유지할 수 있는가?
• RQ2 공정성과 강건성을 하나의 훈련 프레임워크에서 동시에 최적화할 수 있는가?
• RQ3 분포 이동 상황에서 공정성 강건성과 예측 정확도 사이의 트레이드오프는 어떠한가?
• RQ4 온라인 학습 기반 반복 알고리즘이 공정하고 강건한 분류기에 증명 가능한 수렴을 이룰 수 있는가?

주요 결과

• 제안된 방법은 다양한 테스트 시점의 분포 이동 상황에서도 공정성 보장을 유지하며, 최신 기술의 공정한 분류기보다 강건성에서 뛰어난 성능을 보인다.
• 강력한 분포 이동 상황에서도 높은 테스트 정확도를 확보하면서도 공정성을 유지하는 분류기를 달성한다.
• 실험 결과는 공정성 강건성과 모델 정확도 사이에 명확한 트레이드오프가 있음을 보여주며, 강건성이 증가할수록 정확도가 약간 감소함을 확인한다.
• 온라인 학습 기반 알고리즘이 이론적 수렴 보장에 의해 공정하고 강건한 해에 수렴함을 검증하였다.
• 이 방법은 훈련 분포를 초월해 공정성을 효과적으로 일반화하여, 가중치가 부여된 편향된 분포 상황에서도 공정성을 보장한다.
• 실증 결과는 기존의 공정한 분류기가 분포 이동 상황에서 공정성을 유지하지 못하는 반면, 제안된 방법은 강건함을 유지함을 보여준다.