[논문 리뷰] Energy-based Out-of-distribution Detection

Weitang Liu, Xiaoyun Wang외 2명|arXiv (Cornell University)|2020. 10. 08.

Adversarial Robustness in Machine Learning참고 문헌 48인용 수 430

한 줄 요약

본 논문은 OOD 탐지를 위한 에너지 점수를 제시하고, 소프트맥스 기반 방법들보다 더 나은 성능을 보이며, 추론 시 에너지를 점수 함수로 사용하거나 에너지 지형을 형성하도록 학습 목표로 활용하는 방법을 보여준다.

ABSTRACT

Determining whether inputs are out-of-distribution (OOD) is an essential building block for safely deploying machine learning models in the open world. However, previous methods relying on the softmax confidence score suffer from overconfident posterior distributions for OOD data. We propose a unified framework for OOD detection that uses an energy score. We show that energy scores better distinguish in- and out-of-distribution samples than the traditional approach using the softmax scores. Unlike softmax confidence scores, energy scores are theoretically aligned with the probability density of the inputs and are less susceptible to the overconfidence issue. Within this framework, energy can be flexibly used as a scoring function for any pre-trained neural classifier as well as a trainable cost function to shape the energy surface explicitly for OOD detection. On a CIFAR-10 pre-trained WideResNet, using the energy score reduces the average FPR (at TPR 95%) by 18.03% compared to the softmax confidence score. With energy-based training, our method outperforms the state-of-the-art on common benchmarks.

연구 동기 및 목표

• 오픈 월드 배치에서 신뢰할 수 있는 OOD 탐지 필요성에 대한 동기 제시.
• 입력 밀도와 상관관계가 있어 정규 데이터와 OOD 데이터를 구분하는 에너지 기반 프레임워크를 제안.
• 재학습 없이 사전 학습된 분류기와 함께 에너지 점수를 사용하고, 정규 데이터와 OOD 데이터 간 에너지 차이를 키우도록 모델을 학습시키는 방법을 보여줌.
• WideResNet을 사용한 CIFAR-10/ CIFAR-100에서 소프트맥스 기반 점수보다 향상된 OOD 탐지 성능을 입증.
• 파라미터 선택에 대한 실용적 가이드 제공 및 Outlier Exposure 및 JEM 기반 접근법을 포함한 기존 방법과의 비교.

제안 방법

• 에너지 함수 E(x;f) = -T log sum_i e^{f_i(x)/T}를 구별 가능한 분류기 f로부터 도출된 것으로 정의한다.
• 에너지에 임계값을 설정하여 OOD를 탐지하기 위한 점수 함수로 -E(x;f)를 사용한다.
• 로그 소프트맥스 신뢰도는 자유 에너지의 특수한 경우임을 보여 주며, 에너지가 OOD 탐지에서 소프트맥스보다 우수한 이유를 설명한다.
• 일반적인 교차 엔트로피 최소화와 힌지 기반의 에너지 정규화 항을 함께 최소화하여 정규 데이터와 OOD 간의 에너지 간극을 형성하는 에너지 제한 학습 목표를 제시한다.
• 마진 m_in과 m_out을 가지는 두 개의 힌지 항을 사용하여 비레이블된 OOD 데이터로 미세 조정하여 정규 데이터의 에너지를 m_in 아래로, OOD 데이터의 에너지를 m_out 위로 밀어 넣는다.
• 에너지 기반 점수는 추론 시 매개변수 없이(T=1) 작동한다는 점을 시연하고, 미세 조정 여부에 따른 추론 시 사용을 비교한다.

실험 결과

연구 질문

• RQ1 에너지 기반 점수가 softmax 신뢰도에 대해 이론적으로 타당하고 실전적으로 우수한 대안을 제공하는가?
• RQ2 재학습 없이 사전 학습된 모델을 사용할 때 에너지 점수가 표준 OOD 벤치마크에서 softmax 점수와 어떻게 비교되는가?
• RQ3 Outlier 데이터로의 에너지 기반 미세 조정이 정규 분포 정확도를 해치지 않으면서 OOD 탐지를 향상시키는가?
• RQ4 온도 스케일링과 에너지 마진 파라미터가 OOD 탐지 성능에 어떤 영향을 미치는가?
• RQ5 에너지 기반 OOD 탐지는 성능과 학습 안정성 면에서 생성 모델 기반 및 하이브리드 방법과 어떻게 비교되는가?

주요 결과

• WideResNet을 사용한 CIFAR-10에서 에너지 점수는 소프트맥스 신뢰도보다 OOD 탐지에 우수하며, 미세 조정 없이 FPR95를 평균적으로 약 18.03% 감소시켰다.
• 비레이블링된 이상치 데이터로의 에너지 기반 미세 조정이 OOD 지표를 추가로 향상시키며, CIFAR-10/ CIFAR-100에서 Outlier Exposure 대비 FPR95를 최대 10.55%까지 감소시키고 정확도는 유지한다.
• 음수 에너지 점수는 정규 데이터와 OOD 데이터 간의 구분을 더 뚜렷하게 보여주며, 에너지 분포가 더 매끄럽게 나타난다.
• 에너지 기반 방법은 이SUN, Places365, Texture, SVHN, LSUN 변형 등 여러 OOD 벤치마크에서 AUROC 및 AUPR이 비교적 경쟁력 있거나 우수하며, 판별적 OOD 탐지기 및 일부 생성 모델 기반 방법과 비교하여 우수하다.
• 온도 스케일링(T>1)은 에너지 기반 OOD 탐지의 성능을 저하시켜 이 접근법에서는 T=1이 바람직하다는 것을 시사한다.