[논문 리뷰] SimpleNet: A Simple Network for Image Anomaly Detection and Localization

Zhikang Liu, Yiming Zhou외 2명|arXiv (Cornell University)|2023. 03. 27.

Anomaly Detection Techniques and Applications인용 수 15

한 줄 요약

SimpleNet은 경량의 특징 공간 이상 생성기와 간단한 판별기를 도입하여 비지도 이미지 이상 탐지 및 로컬라이제이션을 수행하고, MVTec AD에서 빠른 추론으로 최첨단 성능을 달성한다.

ABSTRACT

We propose a simple and application-friendly network (called SimpleNet) for detecting and localizing anomalies. SimpleNet consists of four components: (1) a pre-trained Feature Extractor that generates local features, (2) a shallow Feature Adapter that transfers local features towards target domain, (3) a simple Anomaly Feature Generator that counterfeits anomaly features by adding Gaussian noise to normal features, and (4) a binary Anomaly Discriminator that distinguishes anomaly features from normal features. During inference, the Anomaly Feature Generator would be discarded. Our approach is based on three intuitions. First, transforming pre-trained features to target-oriented features helps avoid domain bias. Second, generating synthetic anomalies in feature space is more effective, as defects may not have much commonality in the image space. Third, a simple discriminator is much efficient and practical. In spite of simplicity, SimpleNet outperforms previous methods quantitatively and qualitatively. On the MVTec AD benchmark, SimpleNet achieves an anomaly detection AUROC of 99.6%, reducing the error by 55.5% compared to the next best performing model. Furthermore, SimpleNet is faster than existing methods, with a high frame rate of 77 FPS on a 3080ti GPU. Additionally, SimpleNet demonstrates significant improvements in performance on the One-Class Novelty Detection task. Code: https://github.com/DonaldRR/SimpleNet.

연구 동기 및 목표

• 이상은 드물고 다양한 산업용 이미지에서 견고한 이상 탐지 및 로컬라이제이션을 촉진한다.
• 도메인 바이어스를 줄이기 위해 대상 도메인 어댑터를 갖춘 사전 학습 특징을 활용한다.
• 효과적인 음수 샘플을 만들기 위해 이미지 공간이 아닌 특징 공간에서 이상을 합성한다.
• 훈련 중 정상 특징과 이상 특징을 효율적으로 구분하기 위해 간단한 판별기를 사용한다.
• MVTec AD 벤치마크와 원클래스 신규성 탐지에서 강력한 성능과 빠른 추론을 보여준다.

제안 방법

• 다중 계층의 로컬 특징을 얻기 위해 사전 학습된 특징 추출기를 사용한다.
• 추출된 특징을 대상 도메인 공간으로 투영하기 위해 특징 어댑터를 적용한다.
• 적응된 정상 특징에 가우시안 노이즈를 추가하여 이상 특징을 생성한다(훈련 중에만).
• 특징 공간에서 정상 특징과 이상 특징을 구분하기 위해 이진 판별기를 학습시킨다.
• 추론 시 이상 특징 생성기를 버려 단일 스트림 네트워크를 가능하게 한다.
• 판별기를 사용하여 이상치를 점수화하고 위치별 이상 맵 및 이미지 수준 점수를 생성한다.

실험 결과

연구 질문

• RQ1 산업용 이상 탐지를 위해 사전 학습된 백본의 도메인 바이어스를 어떻게 완화할 수 있을까?
• RQ2 특징 공간에서 이상을 합성하는 것이 이미지 공간 합성이나 완전 지도 학습 접근법보다 성능이 우수한가?
• RQ3 특징 어댑터와 결합했을 때 간단한 판별기가 효과적인 이상 로컬라이제이션 및 탐지에 충분한가?
• RQ4 MVTec AD의 기존 최첨단 방법들과 비교했을 때 정확도와 추론 속도에서 어떤 트레이드오프가 있는가?
• RQ5 SimpleNet은 원클래스 신규 탐지 작업에 얼마나 잘 일반화되는가?

주요 결과

• 3080ti GPU에서 77 FPS 추론으로 MVTec AD에서 99.6% I-AUROC를 달성하여 정확도와 속도 면에서 이전 방법을 능가합니다.
• MVTec AD의 여러 질감 및 객체 범주에서 최첨단 방법을 능가합니다.
• WideResNet50 백본에서 MVTec AD의 평균 I-AUROC는 99.6%, 평균 P-AUROC는 98.1%입니다.
• 단일 FC 계층을 가진 특징 어댑터가 제거 실험에서 가장 좋은 성능을 제공하며, 판별기가 간결하고 대상에 맞춘 특징 공간에서 이점을 누리는 것으로 보입니다.
• 제거 실험은 적당한 가우시안 노이즈 스케일(sigma ≈ 0.015)이 탐지 정확도와 훈련 안정성의 균형을 맞추는 반면, 더 복잡한 어댑터는 성능에 해를 줄 수 있음을 보여줍니다.
• CIFAR-10에서의 원클래스 신규 탐지는 여러 베이스라인 대비 경쟁력 있거나 우수한 성능을 보입니다.