[논문 리뷰] Analysis of Confident-Classifiers for Out-of-distribution Detection

Sachin Vernekar, Ashish Gaurav외 5명|arXiv (Cornell University)|2019. 04. 27.

Adversarial Robustness in Machine Learning참고 문헌 12인용 수 9

한 줄 요약

이 논문은 분포 외(out-of-distribution, OOD) 탐지에 대해 확신하는 분류기(confident-classifier) 접근법을 분석하며, OOD 샘플에서 출력 엔트로피를 최대화하기 위한 KL 발산 정규화를 적용함에도 불구하고, ReLU 네트워크가 분포 내 데이터에서 멀리 떨어진 OOD 데이터에 대해 여전히 임의로 높은 확신도 예측을 생성함을 보여준다. 저자들은 대신 OOD 샘플을 위해 명시적인 '기각(reject)' 클래스를 갖는 분류기를 훈련하는 것을 제안하며, 이는 결정 경계를 유한하게 유지하고, 특히 분포 경계를 잘 따르는 고질적 OOD 샘플과 조합했을 때 더 뛰어난 OOD 탐지 성능을 제공한다.

ABSTRACT

Discriminatively trained neural classifiers can be trusted, only when the input data comes from the training distribution (in-distribution). Therefore, detecting out-of-distribution (OOD) samples is very important to avoid classification errors. In the context of OOD detection for image classification, one of the recent approaches proposes training a classifier called "confident-classifier" by minimizing the standard cross-entropy loss on in-distribution samples and minimizing the KL divergence between the predictive distribution of OOD samples in the low-density regions of in-distribution and the uniform distribution (maximizing the entropy of the outputs). Thus, the samples could be detected as OOD if they have low confidence or high entropy. In this paper, we analyze this setting both theoretically and experimentally. We conclude that the resulting confident-classifier still yields arbitrarily high confidence for OOD samples far away from the in-distribution. We instead suggest training a classifier by adding an explicit "reject" class for OOD samples.

연구 동기 및 목표

• 확신하는 분류기(confident-classifiers)가 분포 외(OOD) 샘플을 탐지하는 데 있어 이론적 및 실증적 한계를 조사하는 것.
• 분포 내 경계 근처의 OOD 샘플에서 출력 엔트로피를 최대화하는 것이 효과적인 OOD 탐지로 이어지는지 분석하는 것.
• 확신하는 분류기 훈련의 맥락에서 GAN이 생성한 OOD 샘플의 품질을 평가하는 것.
• 개선된 OOD 탐지 성능을 위해 명시적인 '기각' 클래스를 사용하는 대안 방법을 제안하고 검증하는 것.

제안 방법

• 분포 내 데이터에서 교차 엔트로피를 최소화하고, OOD 예측과 균일 분포 사이의 KL 발산을 최소화하는 확신 손실(confidence loss)을 사용해 분류기를 훈련한다.
• 분포 내 데이터의 저밀도 영역에 있는 OOD 샘플을 생성하기 위해 GAN을 사용하며, 분포 내 경계를 따르도록 목표를 설정한다.
• 분포 외 데이터를 명시적으로 클래스로 모델링하기 위해 추가적인 '기각' 클래스를 갖는 다중 클래스 분류기를 훈련한다.
• 최대 예측 확률과 출력 엔트로피를 탐지 점수로 사용하여 OOD 탐지 성능을 평가한다.
• 결정 경계를 시각화하고, 다양한 방법 간의 OOD 탐지 성능를 비교하기 위해 2차원 합성 데이터셋을 사용한다.
• 네트워크 아키텍처, 활성화 함수, 하이퍼파ram터의 다양성에 따른 분석을 통해 성능의 안정성과 탄력성을 평가한다.

실험 결과

연구 질문

• RQ1 KL 발산 정규화를 적용하여 훈련된 확신하는 분류기가, 분포 내 데이터에서 멀리 떨어진 OOD 샘플을 신뢰성 있게 탐지할 수 있는가?
• RQ2 GAN 기반의 OOD 샘플 생성이 분포 내 데이터의 전체 저밀도 경계를 효과적으로 커버하는가?
• RQ3 확신하는 분류기와 명시적인 '기각' 클래스를 갖는 분류기 간의 OOD 탐지 성능는 어떻게 비교되는가?
• RQ4 네트워크 아키텍처(예: ReLU 대 sigmoid)가 OOD 확률 보정에 어떤 영향을 미치는가?
• RQ5 GAN과 분류기의 공동 훈련(Equation 1)이 분포 내 경계를 충분히 대표하는 OOD 샘플을 생성할 수 있는가?

주요 결과

• KL 발산 정규화를 적용하여 훈련된 확신하는 분류기는 분포 내 데이터에서 멀리 떨어진 OOD 샘플에 대해 여전히 임의로 높은 확신도를 부여함으로써, OOD 탐지에 효과적이지 않다.
• 명시적인 '기각' 클래스를 갖는 제안된 분류기는 OOD 샘플을 분포 외로 정확히 식별하며, 그 결과 Figure 1(b)에 도시된 바와 같이 결정 경계가 유한해진다.
• 2차원 합성 데이터에 대한 실증 결과는 ReLU 기반의 확신하는 분류기가 분포 내 클러스터에서 멀리 떨어진 OOD 샘플에 대해서도 높은 확신도 예측을 생성함을 보여준다.
• 확신하는 분류기와 함께 공동으로 훈련된 GAN은 전체 분포 내 경계를 잘 커버하는 다양한 OOD 샘플을 생성하지 못하며, 이로 인해 OOD 탐지 성능이 열악해진다.
• 확신하는 분류기의 성능은 생성된 OOD 샘플의 품질과 커버리지에 매우 민감하며, 이는 종종 불완전하고 대표성이 없는 편이다.
• 분포 내 데이터에서 멀리 떨어진 OOD 데이터를 탐지할 경우, 특히 고차원 설정에서 '기각' 클래스를 갖는 분류기 접근법이 확신하는 분류기보다 뛰어난 성능을 보인다.