[논문 리뷰] Student-Teacher Feature Pyramid Matching for Anomaly Detection

Guodong Wang, Shumin Han외 2명|arXiv (Cornell University)|2021. 03. 07.

Anomaly Detection Techniques and Applications참고 문헌 45인용 수 104

한 줄 요약

본 논문은 단일 학생-단일 교사 프레임워크와 다중 스케일 피처 피라미드 매칭을 도입하여 픽셀 수준의 이상 탐지를 효율적으로 수행하고, MVTec AD에서 최첨단 성능을 달성한다.

ABSTRACT

Anomaly detection is a challenging task and usually formulated as an one-class learning problem for the unexpectedness of anomalies. This paper proposes a simple yet powerful approach to this issue, which is implemented in the student-teacher framework for its advantages but substantially extends it in terms of both accuracy and efficiency. Given a strong model pre-trained on image classification as the teacher, we distill the knowledge into a single student network with the identical architecture to learn the distribution of anomaly-free images and this one-step transfer preserves the crucial clues as much as possible. Moreover, we integrate the multi-scale feature matching strategy into the framework, and this hierarchical feature matching enables the student network to receive a mixture of multi-level knowledge from the feature pyramid under better supervision, thus allowing to detect anomalies of various sizes. The difference between feature pyramids generated by the two networks serves as a scoring function indicating the probability of anomaly occurring. Due to such operations, our approach achieves accurate and fast pixel-level anomaly detection. Very competitive results are delivered on the MVTec anomaly detection dataset, superior to the state of the art ones.

연구 동기 및 목표

• 정확한 위치지정을 갖춘 원-클래스 문제로서 이상 탐지의 도전을 해결한다.
• 이미지 분류에 사전 학습된 교사를 활용하여 컴팩트한 학생 네트워크를 안내한다.
• 다중 스케일 피처 피라미드 매칭을 도입하여 서로 다른 크기의 이상을 탐지한다.
• 빠른 픽셀 수준 이상 로컬라이제이션을 가능하게 하는 효율적이고 단일 패스 방법을 제공한다.

제안 방법

• ImageNet에서 사전 학습된 교사 네트워크를 사용하고 동일 아키텍처의 학생 네트워크로 지식을 단일 단계에서 증류한다.
• 교사와 학생의 여러 하단 층에서 피처 피라미드를 구성하는 특징을 추출하고 각 픽셀 벡터를 정규화한다.
• 피라미드 전반에 걸친 대응 공간 위치에서 L2로 정규화된 피처 벡터 간의 L2 거리 최소화로 학습한다(코사인 거리 대리와 동일한 효과).
• 스케일 간 교사와 학생 피처 간의 L2 거리 기반 차이를 기준으로 픽셀별 이상 점수를 계산하고 업샘플링된 맵을 곱해 최종 이상 맵을 형성한다.
• 최종 이상 맵에서 최대 값을 이미지 수준 이상 점수로 추정하여 픽셀 수준 로컬라이제이션과 빠른 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 단일 학생 네트워크가 다중 스케일 피처 피라미드 매칭으로 정상 데이터에서 교사의 피처를 근접 근사할 수 있는가?
• RQ2 다중 스케일 피처 공유가 다양한 크기의 객체에 대한 이상 로컬라이제이션을 개선하는가?
• RQ3 표준 이미지 데이터셋에서 교사를 사전 학습시키는 것이 이상 탐지 작업으로의 전이 성능에 얼마나 잘 작용하는가?
• RQ4 제한된 학습 데이터(적은 샷 설정)에서 방법이 견고한가?

주요 결과

• MVTec AD 데이터셋에서 픽셀 수준 이상 탐지에 대해 여러 최첨단 방법을 능가한다.
• 다중 스케일 피처 피라미드 매칭이 단일 스케일 피처 매칭보다 우수한 성능을 보이며 중간 계층 피처(blocks 3 and 4)가 강력한 지침을 제공한다.
• ImageNet 및 CIFAR-10/CIFAR-100에서 사전 학습된 교사 모델이 이 작업에서 MNIST/SVHN보다 전이 성능이 더 좋다.
• 제한된 학습 데이터(5–10%)에서도 방법이 효과적이며 few-shot 시나리오에서 기준선을 능가한다.
• 피라미드를 이용한 단일 순전파로 다중 스케일에서 이상을 정확하게 로컬라이즈할 수 있다.