[논문 리뷰] On the Importance of Gradients for Detecting Distributional Shifts in the Wild

Rui Huang, Andrew Geng외 1명|arXiv (Cornell University)|2021. 10. 01.

Anomaly Detection Techniques and Applications인용 수 88

한 줄 요약

GradNorm은 softmax 출력과 균등 분포 간의 KL 발산으로 역전파된 그래디언트 노름을 활용하여 out-of-distribution 입력을 탐지하고, 이전의 출력 기반 및 특징 기반 방법과 비교하여 ImageNet 벤치마크에서 우수한 OOD 탐지를 달성한다.

ABSTRACT

Detecting out-of-distribution (OOD) data has become a critical component in ensuring the safe deployment of machine learning models in the real world. Existing OOD detection approaches primarily rely on the output or feature space for deriving OOD scores, while largely overlooking information from the gradient space. In this paper, we present GradNorm, a simple and effective approach for detecting OOD inputs by utilizing information extracted from the gradient space. GradNorm directly employs the vector norm of gradients, backpropagated from the KL divergence between the softmax output and a uniform probability distribution. Our key idea is that the magnitude of gradients is higher for in-distribution (ID) data than that for OOD data, making it informative for OOD detection. GradNorm demonstrates superior performance, reducing the average FPR95 by up to 16.33% compared to the previous best method.

연구 동기 및 목표

• 실제 배치 배포 환경에서의 ID(내부 분포) 정확도 이상의 견고한 OOD 탐지를 동기 부여한다.
• 그래디언트 공간이 ID와 OOD 데이터를 구분하는 유용한 신호를 담고 있는지 탐구한다.
• 그래디언트 크기를 OOD 점수로 활용하는 간단한 학습 없이도 가능한 방법(GradNorm)을 제안한다.
• 그래디언트 공간 정보가 특징 공간과 출력 신호를 결합하여 구분 가능성을 개선하는 방법을 분석한다.

제안 방법

• 네트워크 매개변수에 대해 softmax 출력과 균등 분포 사이의 KL 발산의 그래디언트를 계산한다.
• 이 그래디언트를 역전파하여 그래디언트 벡터를 얻고 그 벡터 노름을 OOD 점수로 사용한다.
• 효율성과 강력한 성능을 위해 마지막 FC 레이어의 가중치를 그래디언트 소스로 사용한다.
• 레이블에 독립적이고 OOD-에 독립적인 설정에서 작동하며, 역전파를 위해 실제 정답 레이블이 필요하지 않다.
• GradNorm 성능에 대한 다양한 Lp 노름(특히 L1)을 포함하고 온도 T의 효과를 조사한다.

실험 결과

연구 질문

• RQ1 Gradient 공간이 Activation 또는 Output 공간을 넘어 ID와 OOD 데이터를 구분하는 차별 신호를 제공할 수 있는가?
• RQ2 어떤 그래디언트 소스(네트워크의 어떤 층/매개변수)가 최적의 OOD 탐지 성능과 계산 효율성을 제공하는가?
• RQ3 어떤 손실 구성과 벡터 노름이 ID와 OOD 간의 분리를 최대화하는가?
• RQ4 아키텍처 선택과 온도 스케일링이 그래디언트 기반 OOD 탐지의 효과에 어떤 영향을 미치는가?

주요 결과

• GradNorm은 ImageNet 벤치마크에서 이전의 최적 방법에 비해 평균 FPR95를 최대 16.33% 감소시킨다.
• 마지막 FC 레이어에서 얻은 그래디언트 노름이 성능과 계산 간의 최적의 균형을 제공한다.
• KL 발산에 대한 균등 타깃을 사용하는 것이 ID와 OOD 간 분리를 더 강하게 만들어, GradNorm이 원-핫 타깃 버전보다 상당한 차이로 우수하다.
• GradNorm에서 그래디언트의 L1 노름이 다른 노름(고차 노름 및 무한대 노름 포함)보다 일관되게 우수하다.
• GradNorm은 특징 공간과 출력 공간의 공동 정보를 포착하여 특징 정보나 출력 정보만을 사용하는 것보다 더 강한 구분성을 보인다.