[논문 리뷰] Confidence-Aware Learning for Deep Neural Networks

Jooyoung Moon, Jihyo Kim외 2명|arXiv (Cornell University)|2020. 07. 03.

Anomaly Detection Techniques and Applications인용 수 47

한 줄 요약

본 논문은 Correctness Ranking Loss (CRL)를 도입하여 표준 딥 뉴럴 네트워크 분류기의 신뢰도 추정이 잘 정렬되고 신뢰할 수 있도록 하며, 추가적인 아키텍처 변경이나 고비용 계산 없이 보정, OOD 탐지, 활성 학습을 개선한다.

ABSTRACT

Despite the power of deep neural networks for a wide range of tasks, an overconfident prediction issue has limited their practical use in many safety-critical applications. Many recent works have been proposed to mitigate this issue, but most of them require either additional computational costs in training and/or inference phases or customized architectures to output confidence estimates separately. In this paper, we propose a method of training deep neural networks with a novel loss function, named Correctness Ranking Loss, which regularizes class probabilities explicitly to be better confidence estimates in terms of ordinal ranking according to confidence. The proposed method is easy to implement and can be applied to the existing architectures without any modification. Also, it has almost the same computational costs for training as conventional deep classifiers and outputs reliable predictions by a single inference. Extensive experimental results on classification benchmark datasets indicate that the proposed method helps networks to produce well-ranked confidence estimates. We also demonstrate that it is effective for the tasks closely related to confidence estimation, out-of-distribution detection and active learning.

연구 동기 및 목표

• 특히 안전이 중요한 응용에서 딥 뉴럴 네트워크에서 신뢰할 수 있는 신뢰도 추정의 필요성을 제시한다.
• 아키텍처를 변경하지 않고도 신뢰도 추정의 서수 순위를 직접 강제하는 학습 목적을 제안한다.
• Correctness Ranking Loss (CRL)를 개발하고 표준 교차 엔트로피 학습과의 통합 방법을 보여준다.
• CRL의 이미지 분류 벤치마크에서의 효과와 OOD 탐지, 활성 학습과 같은 관련 작업에 대한 영향을 입증한다.

제안 방법

• 정확할 가능성이 더 높은 샘플이 더 높은 신뢰도를 갖도록 서수 순위 목표를 정의한다.
• Introduce Correctness Ranking Loss (CRL): L_CR = max(0, -g(c_i,c_j)(κ_i-κ_j) + |c_i-c_j|) for paired samples, where c_i is the proportion of correct predictions for sample i and κ_i is a confidence measure.
• CRL을 근사하기 위한 간단하고 확장 가능한 미니배치 내 샘플링 스킴을 도입하여 연속 샘플을 짝지어 배치를 순환시킨다.
• CRL과 표준 교차 엔트로피를 결합: L = L_CE + λ L_CR, λ가 CRL의 영향을 제어한다.
• 최대 클래스 확률, 음의 엔트로피(정규화된), 여백(margin) 등과 같은 신뢰도 함수 κ를 탐색한다.
• 구조를 수정하지 않고 기존 아키텍처에 CRL을 적용할 수 있는 구현 세부정보를 제공한다.

실험 결과

연구 질문

• RQ1 아키텍처를 변경하지 않고도 단순한 정규화 손실(CRL)이 표준 딥 분류기에서 잘 정렬된 신뢰도 추정을 유도할 수 있는가?
• RQ2 CRL은 일반적인 이미지 분류 데이터셋에서 신뢰도 보정 및 서수 순위 지표에 어떤 영향을 미치는가?
• RQ3 분류 정확도 외에 OOD 탐지, 활성 학습과 같은 다운스트림 작업에 CRL이 유익한가?
• RQ4 전통적 학습에 비해 CRL의 계산적 영향은 어떠한가?

주요 결과

• CRL은 여러 아키텍처와 데이터셋에서 잘 정렬된 신뢰도 추정을 제공한다.
• CRL로의 학습은 보정 및 순위화와 같은 신뢰도 관련 지표에서 베이스라인 및 다른 불확실성 추정 방법과 비교해 경쟁력 있거나 향상된 성능을 제공한다.
• 단일 추론 패스로도 표준 분류기를 사용하여 OOD 탐지 및 활성 학습을 포함한 신뢰도 순위화 관련 작업의 성능을 향상시킨다.
• CRL은 아키텍처 수정이 필요 없고 학습 및 추론 시 추가 계산 비용이 거의 들지 않는다.
• CRL 기반 모델은 베이스라인보다 개선을 달성하고 MC dropout, aleatoric+MC, AES와 같은 방법들과 다양한 설정에서 경쟁력이 있다.