[논문 리뷰] Focus Your Distribution: Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization

Ye Zheng, Xiang Wang외 4명|arXiv (Cornell University)|2021. 10. 09.

Anomaly Detection Techniques and Applications참고 문헌 44인용 수 6

한 줄 요약

이 논문은 산업 이미지에서 비지도 이상 탐지 및 국소화를 위한 코arse-to-fine 비대비 학습 프레임워크를 제안한다. 픽셀 수준과 특징 수준의 정렬을 활용한 후, 조밀한 비대비 학습을 통해 압축되고 구별력 있는 정상 분포를 학습한다. 이 방법은 MVTec AD 및 상하이 테크 캠퍼스 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하며, 이상 샘플을 사용하지 않고도 미세하고 섬세한 결함을 탐지하는 데 성공한다.

ABSTRACT

The essence of unsupervised anomaly detection is to learn the compact distribution of normal samples and detect outliers as anomalies in testing. Meanwhile, the anomalies in real-world are usually subtle and fine-grained in a high-resolution image especially for industrial applications. Towards this end, we propose a novel framework for unsupervised anomaly detection and localization. Our method aims at learning dense and compact distribution from normal images with a coarse-to-fine alignment process. The coarse alignment stage standardizes the pixel-wise position of objects in both image and feature levels. The fine alignment stage then densely maximizes the similarity of features among all corresponding locations in a batch. To facilitate the learning with only normal images, we propose a new pretext task called non-contrastive learning for the fine alignment stage. Non-contrastive learning extracts robust and discriminating normal image representations without making assumptions on abnormal samples, and it thus empowers our model to generalize to various anomalous scenarios. Extensive experiments on two typical industrial datasets of MVTec AD and BenTech AD demonstrate that our framework is effective in detecting various real-world defects and achieves a new state-of-the-art in industrial unsupervised anomaly detection.

연구 동기 및 목표

• 이상이 드물고 레이블링이 어려운 산업 이미지에서 미세하고 섬세한 이상을 탐지하는 과제를 해결하기 위해.
• 합성 또는 가정된 이상 샘플에 의존하지 않고도 정상 이미지 표현의 압축성과 구별력을 향상시키기 위해.
• 정상 이미지 간에 조밀한 특징 정렬을 가능하게 하는 자기지도 사전 과제(self-supervised pretext task)를 개발하기 위해.
• 인간의 시각적 점검을 모방하는 두 단계 프레임워크—코어스 정렬 이후 피니어 그레인드 비대비 학습—을 설계하기 위해.
• 기준 데이터셋에서 다양한 산업 결함 유형에 대해 일반화 능력과 강건성을 입증하기 위해.

제안 방법

• 코어스 정렬 단계에서는 공간 변환을 사용하여 픽셀 수준과 특징 수준에서 객체의 위치를 표준화하여 배치 내 이미지 간의 전반적 맥락을 정렬한다.
• 피니어 정렬 단계에서는 배치 내 정상 이미지 간에 대응하는 공간 위치의 특징 간 유사도를 최대화하기 위해 조밀한 비대비 학습을 적용한다.
• 비대비 학습은 음성 쌍(negative pairs)이 없는 대비 유사한 목적함수로 공식화되며, 오직 정상 이미지만을 사용하여 강건하고 압축된 표현을 학습한다.
• 백본으로 넓은 잔차 네트워크(WR50×2)를 사용하고, 색상 및 공간 변환과 같은 데이터 증강 기법을 적용하여 강건성을 향상시킨다.
• 다양한 피라미드 수준의 특징 맵을 사용하여 다중 척도 표현을 캡처함으로써 국소화 정확도를 향상시킨다.
• 재구성 오차 또는 특징 불일치를 통해 이상 점수를 계산하고, 픽셀 수준 국소화를 위한 히트맵을 생성한다.

실험 결과

연구 질문

• RQ1 코어스-투-파인 정렬 전략은 산업 이미지에서 미세하고 섬세한 이상의 탐지에 기여하는가?
• RQ2 비대비 학습은 이상 패턴에 대한 어떠한 가정 없이도 압축된 정상 특징 분포를 효과적으로 학습할 수 있는가?
• RQ3 제안된 방법은 텍스처 및 물체 유형을 포함한 다양한 산업 결함 유형에 대해 일반화되는가?
• RQ4 기준 벤치마크에서 최신 기술 수준의 비지도 이상 탐지 모델과 비교해 볼 때 성능은 어떠한가?
• RQ5 결함이 시각적으로 미세하고 국소적인 경우에도 모델이 높은 정밀도로 이상을 국소화할 수 있는가?

주요 결과

• MVTec AD 데이터셋에서 제안된 방법은 평균 PRO 점수 93.0을 기록하여 이전 최신 기술 수준(PaDiM: 92.1)을 초월하고 U-S(85.7)를 뛰어넘었다.
• 상하이 테크 캠퍼스 데이터셋에서, 이 방법은 8개의 영상 시퀀스에서 픽셀 수준 AUC 97.5를 달성하여 PaDiM(92.1)과 U-S(85.7)를 모두 능가했다.
• MVTec AD에서 텍스처 유형에 대해 93.1의 PRO, 물체 유형에 대해 93.0의 PRO를 기록하여 다양한 결함 유형 간 강력한 일반화 능력을 보였다.
• 절단 실험을 통해 코어스 정렬과 비대비 학습이 모두 필수적임을 확인하였으며, 둘 중 하나를 제거하면 성능이 크게 떨어졌다.
• 시각화 결과는 미세한 텍스처나 형태 왜곡의 경우에도 모델이 높은 정밀도로 이상을 국소화함을 보여주었다.
• 이상 유형이 사전에 보지 못한 경우에도 모델은 잘 일반화되며, 다양한 데이터 증강 조건에서도 강건성을 유지하여 실제 환경에서의 효과성을 확인했다.