[논문 리뷰] Towards Total Recall in Industrial Anomaly Detection

Karsten Roth, Latha Pemula외 4명|arXiv (Cornell University)|2021. 06. 15.

Anomaly Detection Techniques and Applications인용 수 8

한 줄 요약

PatchCore는 ImageNet 사전 훈련된 모델에서 유도한 중수준 패치 특징의 최대한 대표성 있는 밸런스를 활용하여 산업용 이상 탐지에 대해 새로운 메모리 효율적인 접근법을 제안한다. 국소적으로 집계된 특징과 탐욕적 코어셋 샘플링을 활용함으로써, MVTec AD에서 최대 99.6% AUROC에 이르는 최신 기술 수준의 성능을 달성하면서도 빠른 추론 속도와 높은 샘플 효율성을 유지하며, 단 한 개의 정상 샘플로도 성능을 유도할 수 있다.

ABSTRACT

Being able to spot defective parts is a critical component in large-scale industrial manufacturing. A particular challenge that we address in this work is the cold-start problem: fit a model using nominal (non-defective) example images only. While handcrafted solutions per class are possible, the goal is to build systems that work well simultaneously on many different tasks automatically. The best performing approaches combine embeddings from ImageNet models with an outlier detection model. In this paper, we extend on this line of work and propose extbf{PatchCore}, which uses a maximally representative memory bank of nominal patch-features. PatchCore offers competitive inference times while achieving state-of-the-art performance for both detection and localization. On the challenging, widely used MVTec AD benchmark PatchCore achieves an image-level anomaly detection AUROC score of up to $99.6\%$, more than halving the error compared to the next best competitor. We further report competitive results on two additional datasets and also find competitive results in the few samples regime.\freefootnote{$^*$ Work done during a research internship at Amazon AWS.} Code: github.com/amazon-research/patchcore-inspection.

연구 동기 및 목표

• 훈련 시 정상(비결함) 이미지만 제공되는 산업용 이상 탐지의 콜드 스타트 문제를 해결한다.
• 기존 방법들이 결함 패tern과 잘 대응하지 못하는 고수준 특징에 의존하는 한계를 극복한다.
• 테스트 시점에서 가능한 한 많은 정상적 맥락을 유지하면서도 계산 비용과 추론 지연을 최소화한다.
• 새로운 산업 데이터셋에 대해 최소한의 또는 전혀 파인튜닝 없이도 높은 성능의 이상 탐지 및 국소화를 가능하게 한다.
• 단일 샘플 또는 소수의 정상 샘플이 존재하는 저샷 환경에서도 강력한 성능을 발휘한다.

제안 방법

• 사전 훈련된 ImageNet 기반 모델에서 유도한 중수준, 국소적으로 집계된 패치 특징의 메모리 밸런스를 구성하여 미세한 무늬와 구조적 패턴을 모두 포착한다.
• 중복을 줄이기 위해 탐욕적 코어셋 샘플링을 사용하여 메모리 밸런스의 중복을 크게 감소시켜 저장 용량과 추론 시간을 절감한다.
• 테스트 패치와 메모리 밸런스 간의 특징 매칭 점수를 계산하여 이상 탐지 수행, 높은 점수는 이상을 나타낸다.
• 국소적 맥락을 유지하기 위해 공간적으로 인지하는 특징 집합 기법을 적용하여 국소화 정확도를 향상시킨다.
• 기반 모델의 다양한 레이어에서 유도한 다중 스케일 특징을 활용하여 미세한 결함과 구조적 결함을 모두 탐지한다.
• 도메인 특화 파인튜닝 없이도 적용 가능한 비적응형, 전이 기반 접근법을 사용하여 다양한 산업 작업에 빠르게 도입 가능하다.

실험 결과

연구 질문

• RQ1 적응형이 아니며 파인튜닝 없이도 전이 기반 접근법이 산업용 이상 탐지에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ2 중수준 패치 특징의 메모리 밸런스는 고수준 특징 표현에 비해 미세한 결함과 구조적 결함 탐지에서 어떻게 비교되는가?
• RQ3 코어셋 샘플링이 성능 저하 없이 얼마나 메모리 및 추론 비용을 줄일 수 있는가?
• RQ4 단일 또는 소수의 정상 샘플만 존재하는 저샷 환경에서 이 방법의 효과는 어떠한가?
• RQ5 PatchCore는 MVTec AD를 초월해 다양한 산업 벤치마크에 잘 일반화되는가?

주요 결과

• MVTec AD 벤치마크에서 PatchCore는 이미지 수준 이상 탐지 AUROC가 99.6%에 이르며, 다음으로 우수한 경쟁자보다 오차를 50% 이상 줄였다.
• MTD 벤치마크에서 PatchCore는 AUROC 97.9%를 기록하여 이전 최신 기술 수준의 방법들과 동등하거나 略적으로 뛰어나게 성능을 냈다.
• mSTC 데이터셋에서 PatchCore는 픽셀 수준 AUROC 91.8%를 기록하여 비지도 이상 국소화 분야에서 새로운 최신 기술 수준을 수립했다.
• 단 한 개의 정상 샘플로도 이전 최신 기술 수준의 방법들과 동일한 성능를 달성하여 놀라운 샘플 효율성을 입증했다.
• 코어셋 샘플링 덕분에 추론 속도가 경쟁 가능하여 실시간 산업적 도입에 실용적이다.
• 특히 저샷 설정에서 SPADE 및 PaDiM과 같은 방법들보다 이상 탐지 및 국소화 성능에서 뛰어나다.