[논문 리뷰] Unsupervised Visual Defect Detection with Score-Based Generative Model

Yapeng Teng, Haoyang Li외 3명|arXiv (Cornell University)|2022. 11. 29.

Industrial Vision Systems and Defect Detection인용 수 4

한 줄 요약

이 논문은 스코어 기반 생성 모델링을 통해 확률적 미분 방정식(SDEs)을 활용하여, 노이즈가 섞인 복원 결과물의 스코어(로그 확률 밀도의 기울기)를 측정함으로써 결함을 탐지하는 새로운 비지도 시각적 결함 검출 방법인 Score-DD를 제안한다. T-scales 전략을 사용해 추론 속도를 가속화하고, 복원 손실 대신 스코어 기반 메트릭을 사용함으로써, 레이블이 부여된 이상치나 추가 모델 없이도 MVTec AD에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Anomaly Detection (AD), as a critical problem, has been widely discussed. In this paper, we specialize in one specific problem, Visual Defect Detection (VDD), in many industrial applications. And in practice, defect image samples are very rare and difficult to collect. Thus, we focus on the unsupervised visual defect detection and localization tasks and propose a novel framework based on the recent score-based generative models, which synthesize the real image by iterative denoising through stochastic differential equations (SDEs). Our work is inspired by the fact that with noise injected into the original image, the defects may be changed into normal cases in the denoising process (i.e., reconstruction). First, based on the assumption that the anomalous data lie in the low probability density region of the normal data distribution, we explain a common phenomenon that occurs when reconstruction-based approaches are applied to VDD: normal pixels also change during the reconstruction process. Second, due to the differences in normal pixels between the reconstructed and original images, a time-dependent gradient value (i.e., score) of normal data distribution is utilized as a metric, rather than reconstruction loss, to gauge the defects. Third, a novel $T$ scales approach is developed to dramatically reduce the required number of iterations, accelerating the inference process. These practices allow our model to generalize VDD in an unsupervised manner while maintaining reasonably good performance. We evaluate our method on several datasets to demonstrate its effectiveness.

연구 동기 및 목표

• 결함 샘플이 극도로 희귀한 산업 환경에서 비지도 시각적 결함 검출의 과제를 해결하기 위해.
• 기존 복원 기반 방법에서 정상 픽셀이 노이즈 제거 과정에서 변형되어 픽셀 단위 복원 손실이 이상 탐지에 신뢰할 수 없게 되는 한계를 극복하기 위해.
• 정상 데이터 분포의 고밀도 영역에서의 거리보다 더 잘 캡처하는 스코어(로그 밀도 기울기) 기반 메트릭을 개발하기 위해.
• 긴 단일 역방향 경로 대신 여러 개의 짧은 역방향 경로를 사용하는 T-scales 기법을 도입하여 스코어 기반 모델의 추론 속도를 가속화하기 위해.
• 사전 훈련된 네트워크, 추가 데이터, 복잡한 손실 함수 재설계에 의존하지 않는 간단하고 효과적이며 즉시 사용 가능한 비지도 VDD 솔루션을 제공하기 위해.

제안 방법

• 모델은 정상 이미지만으로 SDEs를 통해 훈련된 스코어 기반 생성 모델을 사용하여 노이즈를 반복적으로 제거하여 현실적인 샘플을 생성한다.
• 두 가지 역방향 과정을 도입한다: 'whole-score'는 노이즈가 섞인 이미지를 정상 데이터의 고밀도 영역으로 유도하기 위한 것이며, 'self-score'는 노이즈에서 원본 이미지를 복원하기 위한 것이다.
• 핵심 메트릭은 whole-score 과정의 중간 단계에서의 스코어 값(로그 밀도 기울기)이며, 이는 샘플이 정상 분포에서 얼마나 떨어져 있는지를 정량화한다.
• T-scales 기법은 여러 개의 초기 노이즈 수준 {t}를 선택하고, 각 수준에서 몇 번의 역방향 단계(r)만 수행함으로써 병렬 추론을 가능하게 하고 총 반복 수를 줄인다.
• 결함 로컬라이제이션은 동일한 이미지의 두 노이즈 버전(하나는 whole-score에서, 다른 하나는 self-score에서 유도된 것)의 스코어 값을 비교함으로써 달성되며, 더 높은 분리도는 이상을 나타낸다.
• 이 방법은 복원 손실을 완전히 회피하며, 확률 밀도에 기반한 원리적인 메트릭인 스코어를 사용함으로써 이상의 심각도를 더 잘 반영한다.

실험 결과

연구 질문

• RQ1 비지도 환경에서 시각적 결함을 탐지하기 위해 복원 손실보다 스코어(로그 밀도 기울기)가 더 신뢰할 수 있는 메트릭이 될 수 있는가?
• RQ2 기존 방법에서 정상 픽셀이 복원 과정에서 왜 이동하는가? 그리고 스코어 기반 메트릭을 사용하면 이를 완화할 수 있는가?
• RQ3 정확도를 손상시키지 않고 스코어 기반 모델의 추론 속도를 크게 가속화할 수 있는가?
• RQ4 여러 개의 짧은 역방향 경로(T-scales)를 사용하면 원래 픽셀의 무결성을 더 잘 유지함으로써 검출 성능을 향상시킬 수 있는가?
• RQ5 사전 훈련된 특징, 외부 데이터, 복잡한 손실 함수 없이도 스코어 기반 모델이 비지도 VDD에서 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• 아블레이션 연구를 통해 스코어 기반 메트릭이 복원 손실보다 VDD에서 더 우수한 성능을 보였으며, MVTec AD에서 스코어 기반 탐지가 복원 손실 기반 방법보다 높은 AU-ROC를 달성했다.
• T-scales 기법은 MVTec AD 데이터셋에서 추론 시간 복잡도를 O(251)에서 O(15)로 감소시켜, 기존 스코어 기반 방법(예: AnoDDPM)보다 훨씬 빠른 속도를 확보했다.
• 레이블이 부여된 이상치, 사전 훈련된 네트워크, 보조 모델을 사용하지 않아도 MVTec AD에서 경쟁 가능한 성능을 달성했다.
• 아블레이션 연구 결과, T-scales는 각 경로의 역방향 단계 수를 제한하여 원본 픽셀 정보를 더 많이 유지하고 정상 영역의 왜곡을 줄임으로써 성능 향상을 이룬다.
• 정상 데이터의 분포 이동에 대해 강건하며, 다양한 산업 결함 유형에 대해 잘 일반화되며, 여러 데이터셋에서 이를 입증했다.
• 고정된 특징 맵 선택에 민감할 수는 있으나, 강력한 성능을 유지하며, 향후 자율학습 또는 준지도 학습 헤드를 통한 확장도 가능하다.