[논문 리뷰] Representation Matters: Assessing the Importance of Subgroup Allocations in Training Data

Esther Rolf, Theodora Worledge외 2명|arXiv (Cornell University)|2021. 03. 05.

Explainable Artificial Intelligence (XAI)참고 문헌 45인용 수 7

한 줄 요약

이 논문은 훈련 데이터 내 소집단 할당이 다양한 집단과 전체 인구 집단의 모델 성능에 미치는 영향을 정량화하는 스케일링 모델을 제안한다. 이는 데이터셋 구성, 특히 소수 집단의 부족한 표현이 공정성과 정확도의 주요 결정 요소임을 입증하며, 알고리즘적 재가중법보다 최적의 데이터 수집 전략이 성능 격차를 줄이는 데 더 뛰어나다는 것을 보여준다.

ABSTRACT

Collecting more diverse and representative training data is often touted as a remedy for the disparate performance of machine learning predictors across subpopulations. However, a precise framework for understanding how dataset properties like diversity affect learning outcomes is largely lacking. By casting data collection as part of the learning process, we demonstrate that diverse representation in training data is key not only to increasing subgroup performances, but also to achieving population level objectives. Our analysis and experiments describe how dataset compositions influence performance and provide constructive results for using trends in existing data, alongside domain knowledge, to help guide intentional, objective-aware dataset design.

연구 동기 및 목표

• 데이터셋 구성, 특히 소집단 할당이 다양한 인구 집단의 모델 성능에 미치는 영향을 이해하는 것.
• 훈련 데이터가 불균형할 경우 알고리즘적 간섭(예: 중요도 가중치)이 성능 격차를 효과적으로 완화할 수 있는지 평가하는 것.
• 공정성과 전체 인구 수준의 정확도를 극대화하는 최적의 훈련 데이터셋을 설계하기 위한 데이터 기반 프레임워크를 개발하는 것.
• 기존 데이터의 추세와 영역 지식을 활용하여 향후 데이터 수집을 지도함으로써 특정 성능 목표를 달성하는 것.
• 데이터 수집을 수동적인 데이터 준비 단계가 아니라 기계학습 파이프라인의 필수 구성 요소로 공식화하는 것.

제안 방법

• 소집단의 표본 수와 소집단 정확도 간의 관계를 기술하기 위해 거듭제곱 법칙 형태의 스케일링 모델을 제안: $ \text{accuracy}_g \propto n_g^{\hat{q}_g} \cdot n^{\hat{p}_g} $, 여기서 $ n_g $는 소집단 크기이고 $ n $은 총 크기이다.
• 실험 데이터로부터 스케일링 파rameter $ \hat{q}_g $, $ \hat{p}_g $, $ \hat{\tau}_g $, $ \hat{\sigma}_g $를 추정하기 위해 비선형 최소 제곱법을 적용한다.
• 경험적 리스크 최소화(ERM)와 중요도 가중치(IW) 간의 성능을 비교하며, 다양한 소집단 할당 $ \alpha_A $ 조건에서 정확도를 측정한다.
• 교차 검증과 하이퍼파ram터 튜닝(예: $ \texttt{num\_trees}=400 $, $ \texttt{max\_depth}=8 $ 또는 $ 16 $)을 활용하여 실제 데이터셋(Mooc, Adult, Goodreads)에서 모델을 평가한다.
• 모델 입력에 그룹 관련 특징(예: 성별, 교육 수준)을 포함하거나 제외함으로써 성능 저하와 공정성에 미치는 영향을 평가한다.
• $ \ell_1 $ 및 $ \ell_2 $ 손실 최소화(MAE 및 MSE)를 활용하여 다양한 성능 지표와 모델 유형(로지스틱 회귀, 릿지, 랜덤 포레스트)에서 모델의 강건성을 평가한다.

실험 결과

연구 질문

• RQ1 훈련 데이터 내 소집단 할당이 다양한 인구 집단의 모델 성능에 어느 정도 영향을 미치는가?
• RQ2 부족한 표현을 보이는 소집단에 대해 알고리즘적 재가중이 성능 격차를 보완할 수 있으며, 언제 실패하거나 성능에 악영향을 줄 수 있는가?
• RQ3 최소 집단 정확도와 전체 인구 정확도를 동시에 극대화하는 최적의 데이터셋 할당 전략은 무엇인가?
• RQ4 기존 데이터의 추세를 어떻게 활용하여 향후 데이터 수집을 개선함으로써 공정성과 성능을 향상시킬 수 있는가?
• RQ5 모델 입력에 그룹 특징을 포함하거나 제외할 경우, 데이터 할당과 모델 성능 간의 관계에 어떤 영향을 미치는가?

주요 결과

• 데이터셋 구성이 모델 성능에 가장 일관되게 영향을 미치며, 알고리즘적 재가중보다 소집단 할당이 더 큰 영향을 미친다.
• 제안된 스케일링 모델은 다양한 집단 크기에서의 성능 추세를 정확히 포착하며, 추정된 지수 $ \hat{q}_g $와 $ \hat{p}_g $는 소집단 크기 $ n_g $가 총 크기 $ n $보다 더 큰 영향을 미치며, 특히 $ n_g \geq 50 $일 경우 더욱 두드러진다.
• 그룹 특징을 모델 입력에서 제외할 경우, 중요도 가중치(IW)의 성능에 대한 부정적 영향가 약간 감소함을 확인하여, 명시적인 그룹 특징이 없는 모델은 할당 불균형에 더 강건함을 시사한다.
• 전체 위험를 최소화하는 최적의 할당 전략은 소수 집단을 과도하게 포함하는 경향이 있어, 공정성과 전체 정확도 목표가 종종 일치함을 나타낸다.
• 작은 초도 샘플을 사용하여 스케일링 파ram터를 추정하고, 전체 정확도를 희생시키지 않고 최소 집단 정확도를 극대화하기 위한 후속 데이터 수집을 안내할 수 있다.
• Adult 데이터셋에서는 성별 특징을 제외함으로써 극단적인 할당 설정($ \alpha_A \approx 0 $ 또는 $ 1 $)에서 성능이 향상되었고, Mooc 데이터셋에서는 인구 통계적 특징을 포함함으로써 'edu ≤ secondary' 집단의 정확도가 향상되었다.