[논문 리뷰] Building robust classifiers through generation of confident out of distribution examples

Kumar Sricharan, Ashok N. Srivastava|arXiv (Cornell University)|2018. 12. 01.

Adversarial Robustness in Machine Learning참고 문헌 9인용 수 13

한 줄 요약

이 논문은 분류기가 매우 확신하는(낮은 엔트로피) 분포 외(OOD) 샘플을 생성하는 새로운 GAN 기반 방법인 ConfGAN을 제안한다. 이는 분류기가 이러한 샘플에서 불확실성(높은 엔트로피)을 최대화하도록 학습하는 방식이다. 특히 확신하는 OOD 예제를 명시적으로 타깃으로 삼음으로써 ConfGAN은 기존의 BoundaryGAN 대비 최대 12%까지 AUROC 성능 향상을 이룩하며, 상태의 기준을 초월하는 OOD 탐지 성능을 달성한다.

ABSTRACT

Deep learning models are known to be overconfident in their predictions on out of distribution inputs. There have been several pieces of work to address this issue, including a number of approaches for building Bayesian neural networks, as well as closely related work on detection of out of distribution samples. Recently, there has been work on building classifiers that are robust to out of distribution samples by adding a regularization term that maximizes the entropy of the classifier output on out of distribution data. To approximate out of distribution samples (which are not known apriori), a GAN was used for generation of samples at the edges of the training distribution. In this paper, we introduce an alternative GAN based approach for building a robust classifier, where the idea is to use the GAN to explicitly generate out of distribution samples that the classifier is confident on (low entropy), and have the classifier maximize the entropy for these samples. We showcase the effectiveness of our approach relative to state-of-the-art on hand-written characters as well as on a variety of natural image datasets.

연구 동기 및 목표

• 딥 네트워크가 분포 외(OOD) 입력에서 과도하게 확신하는 문제를 해결하기 위해.
• 학습 중에 확신하는 OOD 예제를 명시적으로 모델링하여 분류기의 OOD 샘플에 대한 강건성을 향상시키기 위해.
• 분류기가 과도하게 확신하는 OOD 샘플을 생성할 수 있는 GAN 기반 방법을 개발하기 위해.
• 학습 데이터 분포 근처의 경계 샘플을 생성하는 기존 방법들(예: BoundaryGAN)을 초월하기 위해.
• 손글씨 문자 및 자연 이미지 데이터셋 모두에서 효과성을 입증하기 위해.

제안 방법

• ConfGAN은 학습 데이터 분포에서 멀리 떨어져 있지만 분류기가 낮은 엔트로피(매우 확신하는) 예측을 내는 분포 외(OOD) 샘플을 생성하는 데 사용된다.
• 생성자는 분류기의 예측에 대한 확신을 극대화하도록 훈련되며, 분류기 출력이 균일성을 떠나도록 반대 KL 발산 손실을 사용한다.
• 전체 훈련 목표는 내재된 데이터에 대한 표준 교차 엔트로피 손실과, GAN에 의해 생성된 OOD 샘플에서 분류기 출력의 엔트로피를 극대화하는 정규화 항을 조합한다.
• 판별기 손실은 생성된 샘플이 현실적이며 내재된 데이터와 구별됨을 보장하지만, 생성자는 분류기를 과도하게 확신하도록 속이는 샘플을 생성하도록 최적화된다.
• 분류기는 내재된 데이터에 대해 교차 엔트로피를 최소화하면서, 생성된 OOD 샘플에서 엔트로피를 극대화하도록 훈련되며, 강력한 기울기 신호를 제공하기 위해 정방향 KL 발산을 사용한다.
• 이 방법은 반복적으로 생성자를 개선하여 점점 더 어려운, 확신하는 OOD 예제를 생성함으로써, 미리 보지 않은 OOD 입력에 대한 분류기의 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 분류기가 확신하는 분포 외(OOD) 샘플을 생성하는 것이 OOD 탐지의 강건성 향상에 기여할 수 있는가?
• RQ2 학습 데이터 분포 근처의 경계 샘플 대신 확신하는 OOD 예제를 타깃으로 삼는 것이 분류기의 불확실성 校정(uncertainty calibration)을 향상시키는가?
• RQ3 다양한 데이터셋에서 ConfGAN은 BoundaryGAN에 비해 OOD 탐지 성능에서 어떻게 비교되는가?
• RQ4 제안된 방법은 실제 OOD 데이터를 훈련 중에 접근할 수 없더라도 OOD 탐지에서 거의 오라클 성능을 달성할 수 있는가?
• RQ5 생성자에 대한 반대 KL 훈련 목표가 분류기의 불확실성을 향상시키는 데 효과적으로 높은 확신을 가진 OOD 샘플을 생성하는가?

주요 결과

• ConfGAN은 CIFAR, SVHN, ImageNet, LSUN 데이터셋 전반에서 BoundaryGAN를 크게 앞서며, 평균 AUROC 성능 향상이 약 12%에 이른다.
• EMNIST 대비 FashionMNIST 벤치마크에서 ConfGAN의 탐지 성능은 FashionMNIST를 OOD 데이터로 사용해 훈련한 오라클 분류기와 매우 유사한 성능을 보였다.
• ConfGAN의 생성자는 훈련 데이터 분포에서 명백히 벗어난, 완성되지 않은 추상적 문자 조각을 생성하며, 이는 확신하는 OOD 샘플의 성공적인 생성을 시사한다.
• BoundaryGAN는 학습 데이터 분포의 가장자리 근처에서 현실적으로 보이는 문자를 생성하지만, ConfGAN은 더 다양한 비언어적 패턴을 생성하며 높은 확신도를 보인다.
• ConfGAN은 손글씨 문자 및 자연 이미지 데이터셋 전반에서 일관된 성능 향상을 기록하며, 광범위한 적용 가능성을 입증한다.
• 이 방법은 손글씨 문자 및 자연 이미지 OOD 탐지 벤치마크에서 모두 최상의 성능을 달성하여, 그 효과성을 검증한다.