[논문 리뷰] DSR -- A dual subspace re-projection network for surface anomaly detection

Vitjan Zavrtanik, Matej Kristan외 1명|arXiv (Cornell University)|2022. 08. 02.

Anomaly Detection Techniques and Applications인용 수 6

한 줄 요약

DSR는 이미지 공간이 아닌 양자화된 특징 공간에서 이상을 생성함으로써, 외부 이상 합성 데이터셋에 의존하지 않고도 근접한 분포 내 이상을 안정적으로 탐지할 수 있는 이중 부분공간 재프로젝션 네트워크를 제안한다. 이는 KSDD2 데이터셋에서 이상 탐지 및 국소화 성능을 각각 10%, 35% 향상시켜 최신 기준 성능을 달성한다.

ABSTRACT

The state-of-the-art in discriminative unsupervised surface anomaly detection relies on external datasets for synthesizing anomaly-augmented training images. Such approaches are prone to failure on near-in-distribution anomalies since these are difficult to be synthesized realistically due to their similarity to anomaly-free regions. We propose an architecture based on quantized feature space representation with dual decoders, DSR, that avoids the image-level anomaly synthesis requirement. Without making any assumptions about the visual properties of anomalies, DSR generates the anomalies at the feature level by sampling the learned quantized feature space, which allows a controlled generation of near-in-distribution anomalies. DSR achieves state-of-the-art results on the KSDD2 and MVTec anomaly detection datasets. The experiments on the challenging real-world KSDD2 dataset show that DSR significantly outperforms other unsupervised surface anomaly detection methods, improving the previous top-performing methods by 10% AP in anomaly detection and 35% AP in anomaly localization.

연구 동기 및 목표

• 기존 비지도 표면 이상 탐지 방법이 외부 데이터셋에서 유도한 이미지 수준의 이상 합성에 의존하는 한계를 해결하기 위해.
• 伝통적인 이미지 수준의 보정 기법으로는 현실적으로 시뮬레이션하기 어려운 미세한 분포 내 이상을 개선하여 탐지하기 위해.
• 합성 이상을 직접 이산 잠재 특징 공간에서 생성함으로써 더 현실적이고 제어 가능한 이상 시뮬레이션을 가능하게 하는 방법을 개발하기 위해.
• 학습 중에 레이블이 부여된 이상 샘플이 필요 없이 실제 세계의 KSDD2 및 표준 MVTec 이상 탐지 벤치마크에서 최신 기준 성능을 달성하기 위해.
• 약한 지도 학습 환경에서 제한된 레이블이 부여된 이상 샘플을 효과적으로 활용하여 소수의 예시로도 성능을 향상시키기 위해.

제안 방법

• 공유 인코더와 이산 잠재 표현을 사용하는 이중 분지 디코더 아키텍처를 활용하여 입력 이미지와 그 특징을 동시에 재구성한다.
• 정상 이미지에서부터 이산적이고 양자화된 잠재 공간을 학습하기 위해 벡터 양자화된 오토인코더(VQ-VAE) 프레임워크를 사용하여 구조적인 특징 표현을 가능하게 한다.
• 정상 영역의 특징과 유사한 코드북 벡터에서 샘플링하여 이상을 생성하며, 학습된 유사도 기준을 사용해 합성 이상의 현실성 수준을 제어한다.
• 이미지 재구성 손실($L_{img}$), 특징 재구성 손실($L_{feat}$), 및 구조적 일致성을 유지하기 위한 인지 손실을 포함하는 병합 손실로 네트워크를 훈련시킨다.
• 고해상도에서 이상 맵을 정밀하게 예측하기 위해 업샘플링 모듈을 사용하여 이상 맵을 개선한다.
• 정상 패치의 잠재 코드와 후보 코드북 벡터 간의 유사도를 기반으로 이상 생성 과정을 안내하여 생성된 이상이 시각적으로 타당하고 정상적인 외관에 가까운 것을 보장한다.

실험 결과

연구 질문

• RQ1 이미지 공간이 아닌 잠재 특징 공간에서 합성 이상을 생성함으로써 이상 탐지 성능을 크게 향상시킬 수 있는가?
• RQ2 특징 수준의 이상 생성이 이미지 수준의 방법으로는 시뮬레이션하기 어려운 근접 분포 내 이상 탐지에 더 나은 성능을 제공하는가?
• RQ3 이산 잠재 특징 공간 표현이 정상적인 외관을 안정적으로 재구성하면서도 효과적인 이상 탐지가 가능하게 하는가?
• RQ4 코드북 내 샘플링 전략의 선택이 이상 탐지 및 국소화 성능에 미치는 영향은 어떠한가?
• RQ5 제안된 방법이 레이블이 부여된 이상 샘플이 소수뿐인 약한 지도 학습 환경에서도 일반화 가능한가?

주요 결과

• KSDD2 실세계 데이터셋에서 DSR는 이전 최신 기준 성능 대비 이상 탐지의 평균 정밀도(AP)를 10%p 향상시키고, 국소화의 AP를 35%p 향상시켰다.
• MVTec 데이터셋에서 DSR는 AUROC 98.2%와 AP 70.2%로 최신 기준 성능을 달성했다.
• 제거 실험 결과, 코드북에서 균일하게 샘플링하는 방식(DSR random)은 제안된 유사도 기반 샘플링 대비 AP에서 2.6%p 감소시켜 샘플링 전략의 중요성을 입증했다.
• 이미지 재구성 손실($L_{img}$) 또는 특징 재구성 손실($L_{feat}$)만으로 훈련할 경우 AUROC는 2.7%p 감소하고 AP는 5.0%p 감소하여 두 구성 요소 모두의 필요성을 입증했다.
• 업샘플링 모듈을 제거하면 국소화 AP가 5.0%p 감소하여 고해상도 이상 맵 예측에서 이 모듈의 핵심적 역할을 확인했다.
• DSR는 58 FPS로 실행되어 실시간 산업 응용에 적합하다.