[논문 리뷰] Re-weighting Based Group Fairness Regularization via Classwise Robust Optimization

Sangwon Jung, Tae‐Eon Park외 2명|arXiv (Cornell University)|2023. 03. 01.

Work-Family Balance Challenges인용 수 5

한 줄 요약

이 논문은 FairDRO를 제안하며, 그룹 편향성에 대한 재가중치화와 정규화 기반 접근법을 통합하는 새로운 내재적 처리 방법이다. 이는 조건부 정확도의 차이(DCA) 지표를 사용하여 클래스별 분포로 불안정성 최적화(DRO)를 통해 그룹 편향성을 공식화함으로써 이루어진다. 이 방법은 반복 최적화 과정을 통해 최적의 그룹 재가중치를 자동으로 학습하며, 다양한 표본, 시각, 자연어 처리 벤치마크에서 최신 기준 성능을 달성하며 강력한 기준 모델들보다 일관된 개선을 이룬다.

ABSTRACT

Many existing group fairness-aware training methods aim to achieve the group fairness by either re-weighting underrepresented groups based on certain rules or using weakly approximated surrogates for the fairness metrics in the objective as regularization terms. Although each of the learning schemes has its own strength in terms of applicability or performance, respectively, it is difficult for any method in the either category to be considered as a gold standard since their successful performances are typically limited to specific cases. To that end, we propose a principled method, dubbed as \ours, which unifies the two learning schemes by incorporating a well-justified group fairness metric into the training objective using a class wise distributionally robust optimization (DRO) framework. We then develop an iterative optimization algorithm that minimizes the resulting objective by automatically producing the correct re-weights for each group. Our experiments show that FairDRO is scalable and easily adaptable to diverse applications, and consistently achieves the state-of-the-art performance on several benchmark datasets in terms of the accuracy-fairness trade-off, compared to recent strong baselines.

연구 동기 및 목표

• 기존의 그룹 편향성 방법들이 이론적으로 약하거나 적용 범위가 좁다는 한계를 해결하기 위해.
• 재가중치화와 정규화 기반의 편향성 접근법을 원칙적이고 확장 가능한 프레임워크로 통합하기 위해.
• 정확도-편향성 트레이드오프를 향상시키기 위해 DCA라는 잘 정당화된 편향성 지표를 학습 목표에 통합하기 위해.
• 이론적으로 탄탄한 방식으로 최적의(음수 포함) 그룹 재가중치를 자동으로 학습할 수 있는 반복 최적화 알고리즘을 개발하기 위해.
• 다양한 데이터셋과 모델 유형에서 확장성과 일관된 성능 향상을 입증하기 위해.

제안 방법

• 조건부 정확도의 차이(DCA)를 사용하여 그룹 편향성을 공식화하며, 이는 클래스별 0-1 손실 분산의 제곱근 평균과 동치임을 입증한다.
• 가상 확률에 대해 χ²-발산 볼을 적용한 클래스별 분포로 불안정성 최적화(DRO)를 적용하여, DCA 정규화된 ERM를 해석 가능한 최소화 최대 문제로 변환한다.
• DRO 공식의 내부 최대화자를 각 그룹의 샘플 재가중치로 사용하여 재가중치화와 정규화 사이의 통합 연결 고리를 형성한다.
• 수정된 Bregman 투영 기반 반복 알고리즘(IBR)을 개발하여 재가중치 업데이트를 안정화하고 수렴성을 보장한다.
• 재가중치 업데이트 중의 진동을 방지하기 위해 부드러운 IBR 업데이트를 도입하여 학습 안정성을 향상시킨다.
• 불균형 데이터셋에서 성능을 공정하게 평가하기 위해 표준 정확도 대신 그룹-클래스 균형 정확도를 사용한다.

실험 결과

연구 질문

• RQ1 통합 프레임워크는 재가중치화와 정규화 기반의 편향성 방법의 장점을 효과적으로 통합할 수 있는가?
• RQ2 클래스별 DRO로 편향성을 공식화하면 기존 방법보다 더 나은 정확도-편향성 트레이드오프를 달성할 수 있는가?
• RQ3 반복 최적화 과정을 통해 원칙적으로 최적의(혹은 음수 포함) 그룹 재가중치를 자동으로 학습할 수 있는가?
• RQ4 FairDRO는 표본, 시각, 자연어 처리 데이터셋을 포함한 다양한 데이터 모odal에서 어떻게 성능을 발휘하는가?
• RQ5 IBR의 부드러운 기법이 재가중치 과정의 안정성과 성능 향상에 상당한 기여를 하는가?

주요 결과

• FairDRO는 모든 벤치마크 데이터셋에서 정확도-편향성 트레이드오프 측면에서 최신 기준 성능을 달성하며, 최근 강력한 기준 모델들을 능가한다.
• Adult 데이터셋에서 FairDRO는 DCA를 6.83(Scratch)에서 1.99로 감소시켰으며, 높은 정확도(79.23%)를 유지했다.
• COMPAS 데이터셋에서 FairDRO는 DCA를 14.51(Scratch)에서 5.20으로 감소시켰으며, 균형 정확도는 61.97%였다.
• 부드러운 IBR 업데이트가 그룹 가중치 동역학을 안정화시켜 진동을 방지하고 편향성 성능을 향상시켰다. 이는 분석 실험에서 입증되었다.
• FairDRO는 Adult 및 CelebA와 같은 극도로 불균형한 데이터셋에서도 정확도를 희생시키지 않고 편향성을 지속적으로 향상시켰다.
• 이 방법은 확장성이 있으며, 표본, 시각, 자연어 처리 작업을 포함한 다양한 응용 분야에 적합하다.