[논문 리뷰] Unsupervised Industrial Anomaly Detection via Pattern Generative and Contrastive Networks

Jianfeng Huang, Chenyang Li외 2명|arXiv (Cornell University)|2022. 07. 20.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 논문은 레이블이 부여된 이상 데이터가 없는 산업 결함을 탐지하기 위해 패턴 생성과 대비 학습을 결합한 비지도 이상 탐지 방법을 제안한다. VIT 기반 디코더를 사용해 손실된 이미지 패치를 재구성하고, 시아모닉 네트워크를 통해 생성된 패치와 실제 패치를 비교함으로써, MVTec에서 99.8% AUC를 달성하며 이전 최고 성능(SOTA) 방법을 능가한다.

ABSTRACT

It is hard to collect enough flaw images for training deep learning network in industrial production. Therefore, existing industrial anomaly detection methods prefer to use CNN-based unsupervised detection and localization network to achieve this task. However, these methods always fail when there are varieties happened in new signals since traditional end-to-end networks suffer barriers of fitting nonlinear model in high-dimensional space. Moreover, they have a memory library by clustering the feature of normal images essentially, which cause it is not robust to texture change. To this end, we propose the Vision Transformer based (VIT-based) unsupervised anomaly detection network. It utilizes a hierarchical task learning and human experience to enhance its interpretability. Our network consists of pattern generation and comparison networks. Pattern generation network uses two VIT-based encoder modules to extract the feature of two consecutive image patches, then uses VIT-based decoder module to learn the human designed style of these features and predict the third image patch. After this, we use the Siamese-based network to compute the similarity of the generation image patch and original image patch. Finally, we refine the anomaly localization by the bi-directional inference strategy. Comparison experiments on public dataset MVTec dataset show our method achieves 99.8% AUC, which surpasses previous state-of-the-art methods. In addition, we give a qualitative illustration on our own leather and cloth datasets. The accurate segment results strongly prove the accuracy of our method in anomaly detection.

연구 동기 및 목표

• 산업 환경에서 레이블이 부여된 결함 이미지의 가용성이 제한된 문제를 해결한다.
• 복잡한 무늬 변화와 비선형 패턴을 다루는 데 한계가 있는 CNN 기반 비지도 방법의 한계를 극복한다.
• 고차원 특징 공간에서 무늬 변화에 대한 강건성과 일반화 능력을 향상시킨다.
• 인간이 설계한 패턴 사전 지식과 계층적 작업 학습을 통합해 해석 가능성성을 향상시킨다.
• 산업 데이터셋에서 이상 탐지 및 국소화 성능에서 최고 수준의 성능을 달성한다.

제안 방법

• 연속된 두 개의 이미지 패치에서 특징를 추출하기 위해 비전 트랜스포머(ViT) 기반 인코더를 사용한다.
• 인코딩된 특징을 기반으로 인간이 설계한 스타일 패턴에 따라 세 번째 이미지 패치를 생성하기 위해 ViT 기반 디코더를 활용한다.
• 생성된 패치와 원본 진짜 패치 간의 유사도를 계산하기 위해 시아모닉 네트워크를 적용한다.
• 다양한 공간적 시각에서의 예측를 집계함으로써 이중 방향 추론을 통해 이상 국소화를 정밀하게 개선한다.
• 인간의 경험을 통합한 계층적 작업 학습을 통해 모델의 해석 가능성과 특징 표현 능력을 향상시킨다.
• 유사도 계산을 통한 대비 학습을 활용하여 이상을 나타내는 변칙을 강조한다.

실험 결과

연구 질문

• RQ1 제한된 이상 데이터 하에서 VIT 기반 아키텍처가 CNN 기반 모델보다 비지도 산업 이상 탐지에서 뛰어난 성능을 낼 수 있는가?
• RQ2 인간이 설계한 스타일 사전 지식를 활용한 패턴 생성이 이상 탐지의 강건성 향상에 얼마나 효과적인가?
• RQ3 생성된 패치와 실제 패치 간의 대비 학습이 국소화 정확도 향상에 어느 정도 기여하는가?
• RQ4 이중 방향 추론은 이상 국소화의 일관성과 정밀도 향상에 기여하는가?
• RQ5 이 방법은 복잡한 무늬와 변동성이 있는 실제 산업 데이터셋에 대해 얼마나 잘 일반화되는가?

주요 결과

• 제안된 방법은 MVTec 벤치마크에서 99.8% AUC를 달성하여 이전 최고 성능(SOTA) 방법을 능가한다.
• 특허 보호된 가죽 및 천 데이터셋에서의 정성적 결과는 매우 정확하고 세밀한 이상 세그멘테이션을 보여준다.
• 패턴 생성과 대비 학습의 분리된 메커니즘 덕분에 무늬 변화에 대해 강건한 성능을 보인다.
• 인간이 설계한 스타일 사전 지식의 통합은 고차원 공간에서의 해석 가능성과 특징 표현을 향상시킨다.
• 이중 방향 추론은 가짜 양성 결과를 줄이고 공간 일관성을 향상시켜 국소화 정밀도를 크게 향상시킨다.
• 실제 산업 자료에 대한 검증을 통해 공개 벤치마크를 초월한 실제 산업 데이터셋에서도 잘 일반화됨을 입증했다.