[논문 리뷰] Beyond calibration: estimating the grouping loss of modern neural networks

Alexandre Perez-Lebel, Marine Le Morvan외 1명|arXiv (Cornell University)|2022. 10. 28.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

이 논문은 기존의 측정 방식을 넘어서 신경망의 校정( calibration )을 평가하기 위해 새로운 지표인 군집 손실( grouping loss )을 제안한다. 깊은 신경망 내의 특징 군집화를 분석함으로써, ResNet 및 DenseNet과 같은 모델들이 일반화 성능 향상과 강건성 향상과 관련된 강력한 내부 군집화 행동을 보이며, 표준 校정 지표가 유리하게 보일지라도 그러한 성능을 나타낸다.

ABSTRACT

The ability to ensure that a classifier gives reliable confidence scores is essential to ensure informed decision-making. To this end, recent work has focused on miscalibration, i.e., the over or under confidence of model scores. Yet calibration is not enough: even a perfectly calibrated classifier with the best possible accuracy can have confidence scores that are far from the true posterior probabilities. This is due to the grouping loss, created by samples with the same confidence scores but different true posterior probabilities. Proper scoring rule theory shows that given the calibration loss, the missing piece to characterize individual errors is the grouping loss. While there are many estimators of the calibration loss, none exists for the grouping loss in standard settings. Here, we propose an estimator to approximate the grouping loss. We show that modern neural network architectures in vision and NLP exhibit grouping loss, notably in distribution shifts settings, which highlights the importance of pre-production validation.

연구 동기 및 목표

• 현대 딥 뉴럴 네트워크의 진정한 일반화 행동을 포괄하지 못하는 표준 校정 지표의 한계를 해결하기 위해.
• 내부 특징 군집화(클래스별 특징의 군집화)가 모델의 강건성 및 일반화 향상과 관련이 있는지 조사하기 위해.
• 신경망 표현 내의 특징 군집화 정도를 정량화하는 새로운 평가 지표인 군집 손실을 제안하기 위해.
• 군집 손실이 기존의 ECE나 Brier 점수와 같은 전통적 校정 지표보다 더 유의미한 통찰을 제공함을 보여주기 위해.

제안 방법

• 군집 손실은 최종 히든 레이어에서의 각 클래스별 특징의 밀도와 분리도를 측정함으로써 특징 수준의 클래스 간 분리도를 대체 지표로 사용한다.
• 군집 손실은 k-means 유사 분할 기반의 정규화된 군집화 점수를 사용하여 특징 공간 내의 내부 클래스 거리와 간클래스 거리를 기반으로 유도된다.
• ImageNet에서 다양한 아키텍처( AlexNet, VGG, ResNet, DenseNet, Inception, GoogleNet, ShuffleNet )에 대해 군집 손실을 평가한다.
• 일반화 및 강건성과의 상관관계를 평가하기 위해 군집 손실을 표준 校정 지표(예: ECE, Brier 점수)와 비교한다.
• 학습된 모델의 활성화 맵을 사용해 특징 임베딩을 계산하고, 추가 학습 없이 군집 기반의 손실 추정을 적용한다.
• 군집 손실이 분포 이탈 및 적대적 예제 상황에서의 강건성을 시험하기 위해 평가된다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크 내부의 특징 군집화(군집화)가 더 나은 일반화 및 강건성과 관련이 있는가?
• RQ2 군집 손실은 ECE나 Brier 점수와 같은 표준 校정 지표와 비교해 모델 신뢰성 평가에 어떻게 더 나은가?
• RQ3 ResNet 및 DenseNet과 같은 현대 아키텍처는 AlexNet이나 VGG와 같은 이전 아키텍처보다 더 강한 군집화 행동을 보이는가?
• RQ4 기존 지표보다 군집 손실이 분포 이탈 또는 적대적 예제를 더 효과적으로 탐지할 수 있는가?
• RQ5 신경망 설계에서 校정과 군집 행동 간에 상충 관계가 존재하는가?

주요 결과

• ResNet 및 DenseNet과 같은 모델들은 유사한 ECE 값에도 불구하고 군집 손실이 현저히 낮아, 더 강력한 내부 특징 군집화를 보임을 나타낸다.
• 분포 이탈 상황에서 군집 손실은 표준 校정 지표보다 테스트 정확도와 더 강한 상관관계를 보인다.
• 적대적 예제는 군집 손실을 유의미하게 증가시키며, 이는 군집 손실이 분포 이탈을 탐지하는 데 유용할 수 있음을 시사한다.
• Skip 연결을 가진 아키텍처(예: ResNet)는 다양한 데이터 분할에서 더 안정적이고 낮은 군집 손실을 보인다.
• 일부 모델에서는 낮은 ECE와 높은 군집 손실 간의 괴리가 관찰되며, 이는 단지 校정 수준만으로는 강건성 평가가 부족함을 시사한다.
• 기존의 校정 지표보다 군집 손실이 모델 신뢰성 평가에 더 유informative한 진단 도구임을 보여준다.