[논문 리뷰] Can You Rely on Your Model Evaluation? Improving Model Evaluation with Synthetic Test Data

Boris van Breugel, Nabeel Seedat외 2명|arXiv (Cornell University)|2023. 10. 25.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 부족한 실재 테스트 데이터로 인해 평가가 불안정한 소수 집단 및 분포 이탈 상황에서의 머신러닝 모델 평가를 향상시키기 위해 합성 테스트 데이터를 생성하는 딥 제너레이티브 모델링 프레임워크인 3S-Testing를 제안한다. 조건부 제너레이티브 모델과 딥 제너레이티브 앙상블을 통한 불확실성 측정을 활용하여, 특히 샘플 수가 적은 상황에서 실재 테스트 데이터만으로는 달성할 수 없는 더 정확한 성능 추정과 더 넓은 진짜 성능 커버리지가 가능하다.

ABSTRACT

Evaluating the performance of machine learning models on diverse and underrepresented subgroups is essential for ensuring fairness and reliability in real-world applications. However, accurately assessing model performance becomes challenging due to two main issues: (1) a scarcity of test data, especially for small subgroups, and (2) possible distributional shifts in the model's deployment setting, which may not align with the available test data. In this work, we introduce 3S Testing, a deep generative modeling framework to facilitate model evaluation by generating synthetic test sets for small subgroups and simulating distributional shifts. Our experiments demonstrate that 3S Testing outperforms traditional baselines -- including real test data alone -- in estimating model performance on minority subgroups and under plausible distributional shifts. In addition, 3S offers intervals around its performance estimates, exhibiting superior coverage of the ground truth compared to existing approaches. Overall, these results raise the question of whether we need a paradigm shift away from limited real test data towards synthetic test data.

연구 동기 및 목표

• 부족한 실재 테스트 데이터로 인해 소수 집단에 대한 모델 평가가 신뢰할 수 없게 되는 문제를 해결하기 위해.
• 기존 실재 테스트 데이터로는 포괄되지 않을 수 있는 타당한 분포 이탈 상황에서의 모델 성능을 견고하게 평가할 수 있도록 하기 위해.
• 고위험 성격을 띤 표본 기반 머신러닝 응용 분야에서 세밀하고 신뢰할 수 있으며 불확실성 측정이 가능한 성능 추정을 제공하는 프레임워크를 개발하기 위해.
• 모델 성능 격차를 가리기 쉬운 평균 성능 지표에 대한 과도한 의존을 줄이기 위해.
• 합성 테스트 데이터가 희귀하거나 분포가 이탈한 집단에서의 진짜 모델 성능을 추정하는 데 실재 테스트 데이터를 능가할 수 있음을 입증하기 위해.

제안 방법

• 3S-Testing는 민감하거나 운영적 특성(예: 인종, 연령, 고용 형태 등)으로 정의된 특정 집단을 위한 합성 테스트 데이터를 생성하기 위해 조건부 딥 제너레이티브 모델을 활용한다.
• 프레임워크는 성능 추정 주변의 예측 구간을 생성하기 위해 제너레이티브 과정의 불확실성을 모델링하는 딥 제너레이티브 앙상블(DGE)을 사용한다.
• 조건부 생성은 사용자가 지정한 집단 조건 또는 분포 이탈 목표(예: 평균 연령 증가, 비미국인 비율 증가 등)에 의해 유도된다.
• 유연한 구현을 위해 최소 입력(예: 집단 정의)과 사전 지식(예: 목표 분포 이탈)을 모두 지원한다.
• 성능 평가는 평균 절대 오차(MAE) 및 예측 구간 내 진짜 성능 커버리지 등의 지표를 사용하여 평가된다.
• 3S-Testing는 Adult와 같은 표본 기반 데이터셋에서 실재 테스트 데이터 및 베이스라인 방법(예: 배깅, 로지스틱 회귀)과의 비교를 통해 검증되었다.

Figure 1 : Limitation of testing with real data (Adult dataset): Insufficient real test samples result in imprecise performance estimates when (i) testing underrepresented subgroups (e.g. Black) and (ii) testing effect of a shift (e.g increased age)

실험 결과

연구 질문

• RQ1 실재 테스트 샘플 수가 적은 소수 집단에서 합성 테스트 데이터가 모델 성능 추정의 정확도를 향상시킬 수 있는가?
• RQ2 실재 테스트 세트에 존재하지 않는 분포 이탈 상황에서 합성 데이터는 모델 성능을 얼마나 잘 포괄할 수 있는가?
• RQ3 3S-Testing가 생성한 예측 구간은 특히 데이터가 적은 상황에서 진짜 성능을 안정적으로 커버할 수 있는가?
• RQ4 3S-Testing는 실재 테스트 데이터 및 기존 베이스라인 방법에 비해 집단 성능 추정과 이탈 감도 평가에서 어떤가?
• RQ5 합성 데이터는 안전 중심 응용 분야에서 모델 신뢰도를 과도하게 평가할 위험을 어느 정도 줄일 수 있는가?

주요 결과

• 3S-Testing는 실재 테스트 데이터만 사용할 경우보다 소수 집단에서의 진짜 성능 추정 정확도를 크게 향상시키며, 평균 절대 오차(MAE)가 현저히 낮다(예: Adult 데이터셋의 1% 집단에서 3S는 1.11 ± 0.71, 실재 데이터는 8.61).
• 3S-Testing의 예측 구간은 진짜 성능을 우수하게 커버하며, 모든 집단에서 95%의 커버리지 비율을 달성했고, 일반적으로 커버리지가 부족하거나 과도한 베이스라인 방법들을 능가한다.
• 평균 연령 증가 또는 비미국인 비율 증가 등의 분포 이탈 상황에서는 3S-Testing가 실재 데이터나 기존 방법보다 더 정확한 성능 추정을 제공한다.
• 프레임워크는 실재 데이터가 희소성으로 인해 실패하는 특정 교차 집단(예: 주 80시간 이상 일하는 자영업 종사자)에서의 성능 저하를 성공적으로 식별한다.
• 3S-Testing를 통해 생성된 모델 민감도 곡선은 교육 연수 증가 또는 흑인 비율 증가에 따른 성능 저하 경향과 같은 운영 범위 내 성능 추세를 드러낸다.
• 3S-Testing는 최소 입력(단지 집단 정의)과 지식 강화 설정(목표 분포 이탈)을 포함한 다양한 환경에서 뛰어난 내구성을 보이며, 광범위한 적용 가능성을 입증한다.

(a) Original data