[논문 리뷰] On the Role of Dataset Quality and Heterogeneity in Model Confidence

Yuan Zhao, Jiasi Chen외 1명|arXiv (Cornell University)|2020. 02. 23.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 7

한 줄 요약

이 논문은 데이터셋 품질과 이질성이 기계학습 모델의 신뢰도에 미치는 영향을 조사하며, 레이블 노이즈는 과소신뢰를, 소규모 학습 세트는 과신뢰를 유도함을 밝혀냈다. 클래스별 캘리브레이션 불균형을 해결하기 위해 저자들은 클래스별 온도 스케일링(Calibration Temperature Scaling, CTS)을 제안하며, 이는 특히 부족하게 표현된 클래스들에서 전체 클래스에 걸쳐 캘리브레이션을 향상시켜 CIFAR 데이터셋에서 평균 및 최악의 경우 오차 지표에서 기존 표준 방법을 능가한다.

ABSTRACT

Safety-critical applications require machine learning models that output accurate and calibrated probabilities. While uncalibrated deep networks are known to make over-confident predictions, it is unclear how model confidence is impacted by the variations in the data, such as label noise or class size. In this paper, we investigate the role of the dataset quality by studying the impact of dataset size and the label noise on the model confidence. We theoretically explain and experimentally demonstrate that, surprisingly, label noise in the training data leads to under-confident networks, while reduced dataset size leads to over-confident models. We then study the impact of dataset heterogeneity, where data quality varies across classes, on model confidence. We demonstrate that this leads to heterogenous confidence/accuracy behavior in the test data and is poorly handled by the standard calibration algorithms. To overcome this, we propose an intuitive heterogenous calibration technique and show that the proposed approach leads to improved calibration metrics (both average and worst-case errors) on the CIFAR datasets.

연구 동기 및 목표

• 학습 데이터의 품질, 특히 레이블 노이즈와 샘플 크기가 딥 뉴럴 네트워크 분류기의 모델 신뢰도에 미치는 영향을 이해하는 것.
• 각 클래스 간 데이터 이질성(예: 노이즈 수준이나 샘플 수의 차이)이 모델 캘리브레이션에 미치는 영향, 특히 각 클래스에서 데이터 품질이 다를 경우에 대해 조사하는 것.
• 전역 캘리브레이션 방법(예: 온도 스케일링)이 클래스별 신뢰도 불균형을 다루는 데에 한계가 있음을 해결하는 것.
• 모든 클래스에서 공정성과 캘리브레이션 성능을 향상시키는 클래스별 캘리브레이션 기법을 제안하고 검증하는 것.
• 평균 및 최악의 경우 캘리브레이션 오차 지표를 사용하여 제안된 방법이 표준 캘리브레이션 기법보다 뛰어나다는 것을 입증하는 것.

제안 방법

• 저자들은 예측된 클래스별로 나누어진 검증 세트를 사용하여 각 클래스에 대해 별도로 온도 스케일링을 적용하는 클래스별 온도 스케일링(Calibration Temperature Scaling, CTS)을 도입한다.
• 제안된 CTS 방법에 대한 이론적 검증 샘플 복잡도 한계를 유도하여 통계적 신뢰성을 확보한다.
• 방법론은 검증 세트를 예측된 클래스별로 분할하고, 각 하위 집합을 독립적으로 온도 스케일링으로 캘리브레이션하는 것을 포함한다.
• 신뢰도 다이어그램과 캘리브레이션 오차 지표(예: 기대 캘리브레이션 오차(Expected Calibration Error, ECE)), 최대-ECE, 평균-ECE)를 사용하여 방법을 평가한다.
• CTS를 표준 온도 스케일링(TS) 및 벡터 스케일링과 비교하여, 불균형하고 노이즈가 있는 데이터셋에서 개선된 성능을 보여준다.
• 제안된 방법의 효과성을 검증하기 위해 제어된 노이즈와 클래스 크기 불균형을 가진 CIFAR-100에서 경험적 분석을 수행한다.

실험 결과

연구 질문

• RQ1 학습 데이터의 레이블 노이즈는 딥 뉴럴 네트워크 분류기의 신뢰도에 어떤 영향을 미치는가?
• RQ2 학습 데이터 세트의 크기가 작아지면 모델의 신뢰도와 캘리브레이션에 어떤 영향을 미치는가?
• RQ3 노이즈 수준이나 샘플 수가 클래스 간으로 다를 경우, 데이터 이질성이 각 클래스의 캘리브레이션 성능에 어떤 영향을 미치는가?
• RQ4 클래스별 캘리브레이션 방법은 온도 스케일링과 같은 전역 캘리브레이션 기법보다 공정성과 캘리브레이션 정확도 측면에서 뛰어나게 작용할 수 있는가?
• RQ5 다양한 캘리브레이션 오차 지표(ECE, max-ECE, Avg-ECE 등)는 캘리브레이션 방법의 공정성과 강건성 평가에 어떤 역할을 하는가?

주요 결과

• 학습 데이터의 레이블 노이즈는 일반적으로 깨끗한 데이터에서 관찰되는 과신뢰와는 반대로 과소신뢰 모델을 초래한다.
• 작은 학습 데이터 세트는 낮은 정확도로 인해 과신뢰 모델을 초래하며, 샘플링 비율이 60% 이하로 떨어질수록 과신뢰가 증가한다.
• 표준 온도 스케일링(TS)은 부족하게 표현된 클래스의 캘리브레이션 오차를 증가시키지만, 더 큰 클래스에서는 성능을 향상시켜 불공정한 대응을 보인다.
• 클래스별 온도 스케일링(CTS)은 모든 클래스에서 균일하게 캘리브레이션을 향상시켜 평균 및 최악의 경우 캘리브레이션 오차를 감소시킨다.
• 모든 샘플링 비율에서 CTS는 최대-ECE 측면에서 TS를 능가하며, 클래스별 신뢰도 불균형을 다룰 때 공정성 면에서 뛰어난 성능을 보여준다.
• Avg-ECE 지표는 CTS와 TS 사이에 상당한 성능 격차를 드러내며, 전역 ECE가 낮은 성능의 클래스별 캘리브레이션을 가리킬 수 있음을 보여주므로, 최악의 경우 지표의 필요성을 입증한다.