[논문 리뷰] Confidence Scoring Using Whitebox Meta-models with Linear Classifier Probes

Tongfei Chen, Jiří Navrátil외 2명|arXiv (Cornell University)|2018. 05. 14.

Machine Learning and Data Classification참고 문헌 22인용 수 14

한 줄 요약

이 논문은 깊이 신경망 기반 모델의 중간층에서 선형 분류기 프로브를 사용하여 낮은 신뢰도 예측을 걸러내는 데 더 뛰어난 신뢰도 점수를 생성하는 화이트박스 메타모델 프레임워크를 제안한다. 내부 모델 표현을 활용하여 노이즈가 많은 환경과 도메인 외부 환경에서 베이스라인을 능가하며, 불확실성 추정에서 더 높은 정밀도와 강건성을 달성한다.

ABSTRACT

We propose a novel confidence scoring mechanism for deep neural networks based on a two-model paradigm involving a base model and a meta-model. The confidence score is learned by the meta-model observing the base model succeeding/failing at its task. As features to the meta-model, we investigate linear classifier probes inserted between the various layers of the base model. Our experiments demonstrate that this approach outperforms various baselines in a filtering task, i.e., task of rejecting samples with low confidence. Experimental results are presented using CIFAR-10 and CIFAR-100 dataset with and without added noise. We discuss the importance of confidence scoring to bridge the gap between experimental and real-world applications.

연구 동기 및 목표

• 안전이 중요한 애플리케이션에서 특히 중요한, 딥러닝 모델이 낮은 신뢰도 예측을 탐지하고 거부할 수 있는 능력에 대한 핵심적 격차를 메우기 위해.
• 기반 모델의 내부 상태를 선형 분류기 프로브를 통해 관찰하여 딥 네트워크의 신뢰도 추정을 향상시키기 위해.
• 투명하고 해석 가능한 메타모델 아키텍처를 통해 노이즈가 많은 학습 데이터와 도메인 외 일반화 상황에서 모델의 강건성을 향상시키기 위해.
• 기반 모델의 최종층 소프트맥스 점수만으로는 부족하고, 중간층 특징이 불확실성에 더 신뢰할 수 있는 신호를 제공할 수 있음을 입증하기 위해.

제안 방법

• 기반 모델이 주요 분류 작업을 수행하고, 메타모델이 그 내부 표현을 관찰하여 성공 또는 실패를 예측하는 이중 모델 프레임워크를 사용한다.
• 기반 모델의 다수의 중간층에 선형 분류기 프로브를 삽입하여 메타모델용 특징 표현을 추출한다.
• 이 프로브 특징을 입력으로 사용하여 메타모델을 훈련시어 기반 모델의 예측이 정확한지 또는 잘못된지를 예측한다.
• 신뢰도 점수는 메타모델의 출력에서 유도되며, 확률일 필요는 없고, 불확실성의 스칼라 측도로 기능한다.
• 모델 성능은 CIFAR-10 및 CIFAR-100에서 레이블 노이즈 유무와 도메인 이탈 조건 하에서 ResNet 아키텍처를 사용하여 평가된다.
• 성능 평가는 ROC 분석을 통해 이루어지며, 필터링 성능는 다양한 신뢰도 임계값에서 정밀도와 재현율의 상호 관계로 측정된다.

실험 결과

연구 질문

• RQ1 딥러닝 네트워크의 중간층 특징이 최종층 출력보다 더 나은 신뢰도 점수를 위한 신호를 제공할 수 있는가?
• RQ2 노이즈가 많은 학습 데이터 조건에서, 선형 프로브를 갖춘 이 화이트박스 메타모델은 블랙박스 베이스라인에 비해 낮은 신뢰도 예측 걸러내기에서 어떻게 성능을 냈는가?
• RQ3 기반 모델이 도메인 외부 테스트 샘플을 만날 경우, 메타모델은 여전히 강건한 성능을 유지하는가?
• RQ4 레이블 노이즈가 증가함에 따라, 메타모델은 다양한 층에 대해 주의를 어떻게 조정하는가?

주요 결과

• 노이즈가 많은 학습 조건에서 특히, 선형 프로브를 갖춘 화이트박스 메타모델이 베이스라인을 크게 능가하여 낮은 신뢰도 샘플을 걸러내는 데 성공한다.
• 노이즈/노이즈 조건에서, 메타모델은 최종층(레이어 17)에서 오류율이 증가함에 따라 더 깊이 있는, 더 강건한 특징(레이어 12–16)으로 주의를 이동시켜 성능을 향상시킨다.
• 내부 도메인 재현율 0.7에서 필터링할 경우, 화이트박스 메타모델은 95% 정밀도를 달성하지만, 기반 모델의 점수는 도메인 외부 조건에서 54% 정밀도로 떨어진다.
• 메타모델은 혼동 사각형 내에서 거짓 양성 및 거짓 음성 예측을 줄이며, 베이스라인에 비해 더 현실적으로 보이는 잘못된 분류를 보인다.
• 메타모델이 노이즈와 도메인 이탈에 적응하는 능력은 기반 모델의 최종 소프트맥스 점수에만 의존하는 것보다 훨씬 뛰어난 강건성을 보여준다.