[논문 리뷰] Minimax Pareto Fairness: A Multi Objective Perspective

Natalia Martínez, Martín Bertrán외 1명|PubMed|2020. 11. 03.

Ethics and Social Impacts of AI인용 수 54

한 줄 요약

본 논문은 그룹 형평성을 다목적 최적화 문제로 공식화하고, 테스트 시점에 민감 속성에 접근할 필요가 없는 간단한 SGD 기반 알고리즘(APStar)을 갖춘 Minimax Pareto Fairness(MMPF)를 도입하여 다양한 과제에서 최악의 그룹 성능을 개선한다.

ABSTRACT

In this work we formulate and formally characterize group fairness as a multi-objective optimization problem, where each sensitive group risk is a separate objective. We propose a fairness criterion where a classifier achieves minimax risk and is Pareto-efficient w.r.t. all groups, avoiding unnecessary harm, and can lead to the best zero-gap model if policy dictates so. We provide a simple optimization algorithm compatible with deep neural networks to satisfy these constraints. Since our method does not require test-time access to sensitive attributes, it can be applied to reduce worst-case classification errors between outcomes in unbalanced classification problems. We test the proposed methodology on real case-studies of predicting income, ICU patient mortality, skin lesions classification, and assessing credit risk, demonstrating how our framework compares favorably to other approaches.

연구 동기 및 목표

• 각 민감한 그룹 리스크가 하나의 목표가 되는 다목적 최적화로 그룹 형평성을 공식화한다.
• Pareto 최적성에 의해 불필요한 해를 초래하지 않는 형평성을 정의하고 최대 그룹 리스크를 최소화한다.
• 테스트 시점의 민감 속성 없이 minimax Pareto 공정한 분류기를 복원하기 위한 간단하고 신경망과 호환되는 최적화 방법을 개발한다.
• 소득 예측, ICU 사망률 예측, 피부 병변 분류 및 신용 위험에 걸친 실제 데이터에 대한 적용 가능성을 보인다.

제안 방법

• 그룹별 위험 r_a(h)를 MOOP 목표로 모델링한다.

실험 결과

연구 질문

• RQ1 그룹 형평성을 다목적 최적화 문제로 어떻게 형식화할 수 있으며 Pareto 최적성의 역할은 무엇인가?
• RQ2 minimaxPareto 형평성은 무엇이며 테스트 시점 민감 속성 없이 해당 분류기를 어떻게 계산할 수 있는가?
• RQ3 제안된 APStar 알고리즘이 실제 데이터 세트에서 minimax Pareto 공정한 분류기로 효율적으로 수렴할 수 있는가?
• RQ4 MMPF가 MIMIC-III, HAM10000, Adult, German Credit와 같은 과제에서 Naive, Balanced 및 기타 형평성 방법과 어떻게 비교되는가?

주요 결과

• 저자들은 볼록 손실(예: Brier Score와 Cross-Entropy)에 대한 파레토-효율적인 분류기를 특성화하고 이를 그룹 리스크의 가중합을 통해 복원하는 방법을 보인다.
• Minimax Pareto Fairness(MMPF)는 파레토-효율적인 분류기들 중에서 가장 큰 최악의 그룹 리스크가 가장 작은 분류의를 선택하며, SGD 위에 간단한 적응적 손실로 최적화할 수 있다.
• 민감 그룹 간 가중치를 업데이트하여 minimax 리스크를 다듬기 위한 APStar 알고리즘이 제안되었고, 수렴 특성과 무작위 샘플링 및 MWU에 비한 실무 속도 이점을 논의한다.
• 본 방법은 실제 데이터세트(MIMIC-III, HAM10000, Adult, German)에서 최악의 그룹 성능이 향상되고 Naive, Balanced 및 테스트 시점 후처리 방법과 비교해 정확도/격차 지표에서도 경쟁력 있음을 보여준다.
• MMPF는 테스트 시점의 민감 속성 접근을 필요로 하지 않으며 비이진 민감 속성 및 목표 변수를 처리할 수 있어 불균형 분류 시나리오에 적용 가능성을 넓힌다.