[논문 리뷰] GradOrth: A Simple yet Efficient Out-of-Distribution Detection with Orthogonal Projection of Gradients

Sima Behpour, Thang Doan외 4명|arXiv (Cornell University)|2023. 08. 01.

Anomaly Detection Techniques and ApplicationsComputer Science인용 수 3

한 줄 요약

GradOrth는 SVD를 통해 내분포(ID) 데이터 활성화로부터 유도된 저질서 부분공간에 기울기의 수직 투영을 이용하여 새로운 외분포(OOD) 탐지 방법을 제안한다. 기울기의 수직 투영 노름을 측정함으로써, ID 데이터 부분공간과 약한 상관관계를 가지는 샘플을 OOD로 식별하며, 최신 기법 대비 FPR95에서 2.71%에서 8.05%까지 감소시킨다.

ABSTRACT

Detecting out-of-distribution (OOD) data is crucial for ensuring the safe deployment of machine learning models in real-world applications. However, existing OOD detection approaches primarily rely on the feature maps or the full gradient space information to derive OOD scores neglecting the role of most important parameters of the pre-trained network over in-distribution (ID) data. In this study, we propose a novel approach called GradOrth to facilitate OOD detection based on one intriguing observation that the important features to identify OOD data lie in the lower-rank subspace of in-distribution (ID) data. In particular, we identify OOD data by computing the norm of gradient projection on the subspaces considered important for the in-distribution data. A large orthogonal projection value (i.e. a small projection value) indicates the sample as OOD as it captures a weak correlation of the ID data. This simple yet effective method exhibits outstanding performance, showcasing a notable reduction in the average false positive rate at a 95% true positive rate (FPR95) of up to 8% when compared to the current state-of-the-art methods.

연구 동기 및 목표

• 안전이 중요한 애플리케이션에서 딥러닝 모델의 신뢰할 수 있는 OOD 탐지 문제를 해결하기 위해.
• 전체 기울기 공간이나 히우리스틱 희소화가 아닌, 내분포 데이터의 가장 정보적인 기울기 부분공간에 집중함으로써 탐지 성능을 향상시키기 위해.
• 재학습 없이 기울기 기하학을 활용하는 원칙적이고 효율적이며 사후(post-hoc) OOD 탐지 방법을 제공하기 위해.
• OOD 탐지에 핵심적인 분류 기능은 내분포 데이터 기울기의 저질서 부분공간에 존재한다는 것을 입증하기 위해.

제안 방법

• 사전 학습된 네트워크의 작은 무작위 ID 데이터 서브셋에 대해 활성화에 특이값 분해(SVD)를 적용하여 내분포(ID) 데이터의 저질서 부분공간을 계산한다.
• 시험 샘플의 전체 기울기를 이 학습된 ID 부분공간에 투영하고, 기울기의 수직(수직) 성분의 노름을 계산한다.
• 큰 수직 투영 노름은 ID 데이터와의 약한 상관관계를 나타내며, 이는 샘플을 OOD로 간주함을 시사한다.
• OOD 점수는 수직 투영의 노름으로 정의되며, 높은 값일수록 OOD 가능성은 높아진다.
• 이 방법은 사후적 적용이 가능하며, 재학습이 필요 없고, 각 시험 샘플에 대해 단일 순방향 전파와 기울기 계산만 필요하다.
• 이 방법은 효율적이고 확장 가능하며, 작은 ID 서브셋의 SVD와 표준 역전파만에 의존한다.

Figure 1 : The main idea of GradOrth : Measuring the orthogonal projection of the gradient of a testing sample onto a $k$ -dimension (e.g $k$ =2 here) subspace of pre-trained network on ID data, by the angle $\alpha$ between $\overrightarrow{g(x_{i})}=\nabla_{\theta^{L}}\mathcal{L}({\bm{\theta}}^{L}

실험 결과

연구 질문

• RQ1 내분포 활성화의 저질서 분해를 통해 OOD 탐지에 가장 정보적인 기울기 부분공간을 식별할 수 있는가?
• RQ2 이러한 부분공간에 기울기를 수직 투영하는 것이 전체 기울기 노름 또는 특징 기반 방법에 비해 OOD 탐지 성능을 향상시키는가?
• RQ3 기울기 부분공간 기하학을 활용하여 원칙적이고 효율적이며 사후적 OOD 탐지 방법을 설계할 수 있는가?
• RQ4 FPR95와 ID 정확도 측면에서 GradOrth는 최신 기법들과 비교해 어떻게 성능을 내는가?

주요 결과

• GradOrth는 다양한 벤치마크에서 최신 기준 기준 대비 FPR95를 2.71%에서 8.05%까지 감소시켰다.
• OOD 탐지 신뢰도를 크게 향상시키는 동시에 높은 내분포(ID) 분류 정확도를 유지한다.
• 제거 분석을 통해 기울기의 저질서 부분공간이 전체 기울기 공간 또는 무작위 부분공간보다 OOD 탐지에 더 효과적임을 확인하였다.
• 이론적 및 실증적 분석을 통해 수직 기울기 투영이 ID 데이터와의 약한 상관관계를 효과적으로 포착하며 강력한 OOD 지표로 기능한다는 것이 입증되었다.
• 특히 95%의 진짜 양성률에서 거짓 양성률를 줄이는 데 있어 GradNorm, ODIN, MSP 등의 기법보다 우수한 성능을 보였다.
• 계산적으로 효율적이며, 모델 미세조정이나 아키텍처 변경이 필요하지 않다.

Figure 2 : Orthogonal Projection