[논문 리뷰] ReConPatch : Contrastive Patch Representation Learning for Industrial Anomaly Detection

Jeeho Hyun, SangYun Kim외 4명|arXiv (Cornell University)|2023. 05. 26.

Anomaly Detection Techniques and Applications인용 수 5

한 줄 요약

ReConPatch는 산업 결함 검출을 위한 대비 패ッチ 표현 학습 방법을 제안하며, 쌍별 및 문맥 유사도에서 유도된 가짜 레이블을 사용하여 특징의 구분 능력을 향상시킨다. 이는 입력 증강 없이 MVTec AD에서 최고 성능(99.72% AUROC)을 달성하였고, BTAD에서는 95.8% AUROC를 기록하였다.

ABSTRACT

Anomaly detection is crucial to the advanced identification of product defects such as incorrect parts, misaligned components, and damages in industrial manufacturing. Due to the rare observations and unknown types of defects, anomaly detection is considered to be challenging in machine learning. To overcome this difficulty, recent approaches utilize the common visual representations pre-trained from natural image datasets and distill the relevant features. However, existing approaches still have the discrepancy between the pre-trained feature and the target data, or require the input augmentation which should be carefully designed, particularly for the industrial dataset. In this paper, we introduce ReConPatch, which constructs discriminative features for anomaly detection by training a linear modulation of patch features extracted from the pre-trained model. ReConPatch employs contrastive representation learning to collect and distribute features in a way that produces a target-oriented and easily separable representation. To address the absence of labeled pairs for the contrastive learning, we utilize two similarity measures between data representations, pairwise and contextual similarities, as pseudo-labels. Our method achieves the state-of-the-art anomaly detection performance (99.72%) for the widely used and challenging MVTec AD dataset. Additionally, we achieved a state-of-the-art anomaly detection performance (95.8%) for the BTAD dataset.

연구 동기 및 목표

• 자연 이미지 사전 훈련된 특징와 산업 결함 데이터 간의 도메인 차이를 해결한다.
• 기존 방법이 대비 학습을 위해 수작업으로 설계된 데이터 증강에 의존하는 한계를 극복한다.
• 목표 지향적 표현 공간을 학습하여 미세한 이상에 대한 특징의 구분 능력을 향상시킨다.
• 광범위한 초모델 조정이나 입력 변환 없이도 효과적인 이상 탐지 및 세그멘테이션을 가능하게 한다.

제안 방법

• 입력 이미지에서 패치 수준의 특징을 추출하기 위해 사전 훈련된 CNN을 사용한다.
• 패치 특징를 더 구분 가능한 공간으로 재구성하기 위해 학습 가능한 선형 변환을 적용한다.
• 가짜 레이블을 사용하여 특징 표현을 최적화하기 위해 유연한 대비 손실($\mathcal{L}_{RC}$)을 활용한다.
• 두 가지 유사도 측정 방식인 쌍별 유사도와 특징 간의 문맥 유사도를 사용하여 가짜 레이블을 생성한다.
• 문맥 유사도를 활용하여 위치 정보를 암묵적으로 인코딩함으로써 국소적 특징 정렬을 향상시킨다.
• 사전 훈련된 백본을 유지하면서 선형 헤드만을 훈련시켜 효율적인 적응을 가능하게 한다.

실험 결과

연구 질문

• RQ1 라벨이 부여된 이상 쌍이 없이도 대비 학습을 산업 이상 탐지에 효과적으로 적용할 수 있는가?
• RQ2 특징 유사도에서 유도된 가짜 레이블이 낮은 데이터 환경에서 표현 학습을 어떻게 향상시킬 수 있는가?
• RQ3 간단한 선형 헤드를 통해 사전 훈련된 특징를 미세조정하여 데이터 증강 없이도 뛰어난 이상 탐지 성능을 달성할 수 있는가?
• RQ4 문맥 유사도를 통합할 경우 이상 국소화를 위한 특징의 구분 능력이 얼마나 향상되는가?
• RQ5 ReConPatch는 MVTec AD 및 BTAD와 같은 벤치마크 데이터셋에서 기존 최고 성능 방법을 능가하는가?

주요 결과

• ReConPatch는 480×480 입력 크기를 사용하여 MVTec AD 데이터셋에서 이미지 수준 AUROC 99.72%의 SOTA 성능을 달성하였다.
• MVTec AD에서 ReConPatch는 이상 세그멘테이션 AUROC에서 PatchCore를 0.86% 초월하여 98.36% vs. 97.5%를 기록하였다.
• BTAD 데이터셋에서 ReConPatch는 이미지 수준 이상 탐지에 95.8% AUROC, 픽셀 수준 세그멘테이션에 97.5% AUROC를 달성하였다.
• UMAP를 활용한 시각화 결과, ReConPatch는 정규 샘플이 뭉쳐 있고 이상 샘플이 분리된 더 밀도가 높고 분리 가능한 특징 공간을 학습하는 것으로 확인되었다.
• 노이즈가 많은 맵에서도 정상 클래스와 어려운 클래스(예: 금속 너트, 가죽)를 포함한 다양한 클래스에서 뛰어난 성능을 보이며 정확한 이상 국소화를 제공하였다.
• d' 구분 능력 지표는 정상 및 비정상 점수 분포 간의 개선된 분리 정도를 확인하여 더 나은 메트릭 학습을 의미한다.