[논문 리뷰] Patch SVDD: Patch-level SVDD for Anomaly Detection and Segmentation

Jihun Yi, Sungroh Yoon|arXiv (Cornell University)|2020. 06. 29.

Anomaly Detection Techniques and Applications참고 문헌 33인용 수 57

한 줄 요약

Patch SVDD는 Self-supervised 학습을 사용하여 패치 단위의 이상 탐지 및 세분화를 가능하게 하고, 패치 수준에서 결함을 지역화하여 MVTec AD에서 최첨단 AUROC를 달성합니다.

ABSTRACT

In this paper, we address the problem of image anomaly detection and segmentation. Anomaly detection involves making a binary decision as to whether an input image contains an anomaly, and anomaly segmentation aims to locate the anomaly on the pixel level. Support vector data description (SVDD) is a long-standing algorithm used for an anomaly detection, and we extend its deep learning variant to the patch-based method using self-supervised learning. This extension enables anomaly segmentation and improves detection performance. As a result, anomaly detection and segmentation performances measured in AUROC on MVTec AD dataset increased by 9.8% and 7.0%, respectively, compared to the previous state-of-the-art methods. Our results indicate the efficacy of the proposed method and its potential for industrial application. Detailed analysis of the proposed method offers insights regarding its behavior, and the code is available online.

연구 동기 및 목표

• 이미지 이상 탐지 및 픽셀 수준 이상 세분화를 다룬다.
• 패치 단위 처리로 Deep SVDD를 확장하여 결함 위치를Localize한다.
• 패치 공간의 고 intra-class 변화를 다루기 위해 Self-supervised 학습을 도입한다.
• 다중 스케일 및 계층적 인코딩을 도입하여 탐지 및 위치화를 향상시킨다.

제안 방법

• 이미지 전체가 아닌 각 패치의 인코딩으로 패치 단위 검사로 Deep SVDD를 확장한다.
• SVDD 기반 손실과 Self-supervised SSL 손실의 조합으로 패치 인코더를 학습하여 의미적으로 유의미한 패치 표현을 형성한다.
• Self-supervised 학습을 이용해 패치의 의미적 군집화를 촉진하고 패치 공간의 단일 중심 이슈를 완화한다.
• 작고 큰 수용영역을 가지는 다중 스케일 정보를 캡처하기 위해 계층적 인코딩을 적용한다.
• 정상 패치 특징에 대한 최근접 이웃 거리로 이상 맵을 생성하고, 다수의 인코더에서의 맵을 원소별 곱셈으로 융합한다.
• 패치 수준의 이상 맵을 모아 이미지 수준 점수로 탐지하고, 세분화를 위한 픽셀 수준 맵으로 축적한다.

실험 결과

연구 질문

• RQ1 패치 단위 SVDD가 전체 이미지 SVDD 변형보다 이상 탐지 및 세분화를 향상시킬 수 있는가?
• RQ2 자체 감독 학습을 도입하면 패치 특징의 의미적 구조화와 따라서 위치 정확도가 향상되는가?
• RQ3 다중 스케일에 걸친 계층적 인코딩이 결함 크기에 대한 탐지 강인성을 향상시키는가?
• RQ4 MVTec AD와 같은 산업 데이터셋에서 패치 수준 최근접 이웃 점수의 이상 탐지 효과는 어느 정도인가?
• RQ5 다중 스케일 인코더를 결합하는 것이 최종 이상 맵에 어떤 영향을 주는가?

주요 결과

작업	방법	AUROC
이상 탐지	Deep SVDD (ICML'18)	0.592
이상 탐지	GEOM (NeurIPS'18)	0.672
이상 탐지	GANomaly (ACCV'18)	0.762
이상 탐지	ITAE (arXiv'19)	0.839
이상 탐지	Patch SVDD (저자 제안)	0.921
이상 구분	L2-AE	0.804
이상 구분	SSIM-AE	0.818
이상 구분	VEVAE (CVPR'20)	0.861
이상 구분	VAE Proj (ICLR'20)	0.893
이상 구분	패치 SVDD (저자 제안)	0.957

• Patch SVDD가 MVTec AD에서 이상 탐지에 대해 최첨단 AUROC(0.921)를 달성한다.
• Patch SVDD가 MVTec AD에서 이상 구분에 대해 최첨단 AUROC(0.957)를 달성한다.
• 자체 감독 손실(SSL) 및 Patch SVDD 손실(SVDD')는 SVDD'만 사용할 때보다 탐지와 세분화를 크게 향상시킨다.
• 다중 스케일 검사와 함께한 계층적 인코딩은 단일 스케일 인코더보다 성능을 향상시킨다.
• 임의로 초기화된 인코더와 원시 패치는 일부 클래스에서 놀랍도록 강한 기준선을 제공하며, 패치의 고유한 데이터 구조를 강조한다.