[논문 리뷰] Wasserstein Robust Support Vector Machines with Fairness Constraints.

Yijie Wang, Viet Anh Nguyen외 1명|arXiv (Cornell University)|2021. 03. 11.

Adversarial Robustness in Machine Learning참고 문헌 9인용 수 4

한 줄 요약

이 논문은 이진 분류에서 기회의 평등성을 향상시키기 위해 정의된 불공평성 제약 조건을 갖춘 워샤르슈타인 강건 서포트 벡터 머신을 제안한다. ∞-워샤르슈타인 모호성 집합을 사용하고 최악의 상황에서의 불공평성 측정치를 재구성함으로써, 이 방법은 표준 솔버를 통해 해결 가능한 혼합정수계획문제로 변환되며, 정확도 손실을 최소화하면서도 공정성을 향상시킨다.

ABSTRACT

We propose a distributionally robust support vector machine with a fairness constraint that encourages the classifier to be fair in view of the equality of opportunity criterion. We use a type-$\infty$ Wasserstein ambiguity set centered at the empirical distribution to model distributional uncertainty and derive an exact reformulation for worst-case unfairness measure. We establish that the model is equivalent to a mixed-binary optimization problem, which can be solved by standard off-the-shelf solvers. We further prove that the expectation of the hinge loss objective function constitutes an upper bound on the misclassification probability. Finally, we numerically demonstrate that our proposed approach improves fairness with negligible loss of predictive accuracy.

연구 동기 및 목표

• 분포적 불확실성 하에서 이진 분류의 공정성 문제를 해결하기 위해.
• 분류기가 기회의 평등성 공정성 기준을 충족하도록 보장하기 위해.
• 실제 분포를 중심으로 한 ∞-워샤르슈타인 볼을 사용하여 분포적 모호성을 모델링하기 위해.
• 강건 최적화를 위한 최악의 상황에서의 불공평성 측정치의 정확한 재구성식을 유도하기 위해.
• 공정성 향상과 예측 정확도의 최소한의 저하 사이의 균형을 이루기 위해.

제안 방법

• 실제 분포를 중심으로 한 유형-∞ 워샤르슈타인 모호성 집합을 사용하여 분포적 불확실성을 모델링한다.
• 이 모호성 집합 하에서 최악의 상황에서의 불공평성 측정치의 정확한 재구성식을 도출한다.
• 강건한 공정성 제약 조건이 부여된 서포트 벡터 머신을 혼합이진 최적화 문제로 재구성한다.
• 결과로 얻어진 혼합정수계획문제를 표준 오프더쇼프 솔버를 사용하여 해결한다.
• 힌지 손실의 기대값을 오분류 확률의 상한으로 사용한다.
• 기회의 평등성 기준을 통해 공정성 제약 조건을 강건 최적화 프레임워크에 직접 통합한다.

실험 결과

연구 질문

• RQ1 어떻게 분포로 부터의 강건성과 공정성 제약 조건을 서포트 벡터 머신 프레임워크와 융합할 수 있는가?
• RQ2 ∞-워샤르슈타인 모호성 집합 하에서 최악의 상황에서의 불공평성 측정치의 정확한 재구성식은 무엇인가?
• RQ3 결과로 도출된 강건한 공정성 제약 조건이 부여된 SVM은 표준 최적화 솔버를 통해 효율적으로 해결될 수 있는가?
• RQ4 제안된 방법은 예측 정확도를 희생시키지 않고 어느 정도까지 공정성을 향상시키는가?
• RQ5 이 설정에서 기대 힌지 손실은 오분류 확률에 대한 타당한 상한으로 작용하는가?

주요 결과

• 제안된 모델은 표준 솔버를 통해 해결 가능한 혼합이진 최적화 문제와 동치이다.
• 힌지 손실의 기대값은 오분류 확률의 상한을 제공한다.
• ∞-워샤르슈타인 모호성 집합을 사용하여 최악의 상황에서의 불공평성 측정치를 정확히 재구성하였다.
• 수치적 결과는 예측 정확도의 거의 손실 없이 공정성이 향상됨을 보여준다.
• 이 방법은 분포적 불확실성 하에서도 효과적으로 공정성을 강제하면서도 강건성을 유지한다.