[논문 리뷰] Active Sampling for Min-Max Fairness

Jacob Abernethy, Pranjal Awasthi외 4명|arXiv (Cornell University)|2020. 06. 11.

Machine Learning and Algorithms참고 문헌 29인용 수 6

한 줄 요약

이 논문은 각 훈련 단계에서 성과가 가장 열 劣한 디모그라픽 그룹의 데이터를 우선적으로 선택하는 활성 샘플링 및 재가중 전략을 제안하여 기계 학습에서 최소-최대 공정성(min-max fairness)을 달성한다. 선형 및 로지스틱 회귀와 같은 볼록 모델의 경우, 이 방법은 알고리즘 2에서 $\sim 1/\sqrt{T}$의 속도로, 알고리즘 3에서 $\sim 1/T$의 속도로 최소-최대 공정한 해에 수렴함을 증명할 수 있으며, 전체 성능을 희생시키지 않고도 단순하고 효율적이며 이론적으로 탄탄한 공정성 향상 방법을 제공한다.

ABSTRACT

We propose simple active sampling and reweighting strategies for optimizing min-max fairness that can be applied to any classification or regression model learned via loss minimization. The key intuition behind our approach is to use at each timestep a datapoint from the group that is worst off under the current model for updating the model. The ease of implementation and the generality of our robust formulation make it an attractive option for improving model performance on disadvantaged groups. For convex learning problems, such as linear or logistic regression, we provide a fine-grained analysis, proving the rate of convergence to a min-max fair solution.

연구 동기 및 목표

• 데이터 불균형 또는 임의의 과제 난이도로 인해 디모그라픽 그룹 간 모델 성능이 불균형해지는 문제를 해결하기 위해.
• 더 나은 성과를 내는 그룹을 낮추는 대신, 성과가 열 劣한 그룹을 '향상'시키는 공정한 학습 프레임워크를 개발하기 위해.
• 최소-최대 공정성에 대해 증명 가능한 수렴 속도를 보장하는 이론적으로 탄탄하고 쉽게 구현 가능한 알고리즘을 제공하기 위해.
• 실세계 데이터셋에서 제안된 방법을 실증적으로 검증하고, 이전 방법들과 비교하여 수렴 속도와 공정성 성능을 평가하기 위해.

제안 방법

• 각 반복에서 현재 손실가장 높은 디모그라픽 그룹의 데이터를 선택하는 그룹별 손실 인식 샘플링 전략을 사용한다.
• 손실이 가장 높은 그룹의 샘플링된 점을 사용하여 확률적 경사 하강법(SGD)을 적용함으로써, 모델 갱신이 공정성을 우선시하도록 보장한다.
• 가속화된 변형(알고리즘 3)을 도입하여 가중 모집단 손실을 최적화하기 위해 적응형 재가중을 사용함으로써 수렴 속도를 향상시킨다.
• 가중 모집단 손실 함수 $ v(\theta; D_{\mathbf{q}}) = \sum_{i=1}^g \mathbf{q}(i) \mathbb{E}_{z \sim D_i} \ell(\theta, z) $ 를 사용하며, 여기서 $ \mathbf{q} $ 는 성과가 열 劣한 그룹을 강조하도록 갱신된다.
• 비미분 가능 손실 함수를 다루기 위해 하향 기울기 방법을 적용하여 볼록성 조건 하에서 이론적 보장을 유지한다.
• 모델 파arameter의 이전 값에 대한 평균을 선택적으로 적용하여 안정성과 일반화 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 성과가 열 劣한 그룹에서의 활성 샘플링이 볼록 학습 문제에서 최소-최대 공정한 해에 더 빠르게 수렴하는 데 증명 가능한 영향을 미칠 수 있는가?
• RQ2 기존의 최소-최대 공정성 방법과 비교할 때, 활성 샘플링의 수렴 속도는 반복 횟수와 계산 비용 측면에서 어떻게 다른가?
• RQ3 제안된 방법은 불리한 그룹의 공정성 향상을 도모하면서도 강력한 일반화 성능을 유지하는가?
• RQ4 이론적 보장 없이도 신경망과 같은 비볼록 모델로 확장할 수 있으며, 이론적 성능 외에도 실증적으로 어떻게 성능을 발휘하는가?

주요 결과

• 알고리즘 2는 볼록 학습 문제에서 최소-최대 공정한 해에 $ \sim 1/\sqrt{T} $ 의 수렴 속도로 수렴하며, 유한 샘플 일반화 경계가 제공된다.
• 가속화된 최소-최대 경사 하강법과 적응형 재가중을 사용하는 알고리즘 3는 $ \sim 1/T $ 의 더 빠른 수렴 속도를 보이며, 표준 SGD보다 수렴 속도에서 뛰어난 성능을 발휘한다.
• COMPAS 데이터셋에서 제안된 방법은 한 번의 반복당 기존의 Diana 등(2021)보다 훨씬 더 빠른 수렴 속도를 보였으며, 이는 단 한 번의 기울기 계산만을 요구하는 반면, 기존 방법은 전체 분류기 최적화가 필요했기 때문이다.
• Diabetes 130-US Hospitals 데이터셋에서 알고리즘 2는 Martinez 등(2020)과 유사한 테스트 성능 및 공정성 지표를 달성했으며, 수렴 속도와 안정성 측면에서 Diana 등(2021)을 능가했다.
• Diabetes 데이터셋에서 MLP를 사용한 비볼록 설정에서, 알고리즘 2는 난이도가 높은 연령 그룹의 손실과 오차를 순수 기반선 대비 감소시켰으며, 이는 이론 외적 실용성도 입증한다.
• 작은 검증 세트를 사용할 경우, 이 방법은 초기 반복 단계에서 기존 기반선 방법보다 근접한 즉각적인 수렴을 보였다.