[논문 리뷰] Generalizable Industrial Visual Anomaly Detection with Self-Induction Vision Transformer

Haiming Yao, Yu, Wenyong|arXiv (Cornell University)|2022. 11. 22.

Anomaly Detection Techniques and Applications인용 수 9

한 줄 요약

이 논문은 일반화 가능하고 다중 카테고리 산업 시각 이상 탐지에 적합한 자기 유도 비전 트랜스포머(SIVT)를 제안한다. 사전 훈련된 CNN을 국소적 특징 추출에 활용하고, 보조 유도 토큰을 사용한 비전 트랜스포머 내 새로운 자기 유도 메커니즘을 통해 특징을 재구성함으로써 SIVT는 최신 기술 수준의 성능을 달성하여 Mvtec AD 벤치마크에서 AUROC를 2.8–6.3 포인트 향상시키고 AP를 3.3–7.6 포인트 향상시켰다.

ABSTRACT

Industrial vision anomaly detection plays a critical role in the advanced intelligent manufacturing process, while some limitations still need to be addressed under such a context. First, existing reconstruction-based methods struggle with the identity mapping of trivial shortcuts where the reconstruction error gap is legible between the normal and abnormal samples, leading to inferior detection capabilities. Then, the previous studies mainly concentrated on the convolutional neural network (CNN) models that capture the local semantics of objects and neglect the global context, also resulting in inferior performance. Moreover, existing studies follow the individual learning fashion where the detection models are only capable of one category of the product while the generalizable detection for multiple categories has not been explored. To tackle the above limitations, we proposed a self-induction vision Transformer(SIVT) for unsupervised generalizable multi-category industrial visual anomaly detection and localization. The proposed SIVT first extracts discriminatory features from pre-trained CNN as property descriptors. Then, the self-induction vision Transformer is proposed to reconstruct the extracted features in a self-supervisory fashion, where the auxiliary induction tokens are additionally introduced to induct the semantics of the original signal. Finally, the abnormal properties can be detected using the semantic feature residual difference. We experimented with the SIVT on existing Mvtec AD benchmarks, the results reveal that the proposed method can advance state-of-the-art detection performance with an improvement of 2.8-6.3 in AUROC, and 3.3-7.6 in AP.

연구 동기 및 목표

• 재구성 기반 방법의 한계, 특히 정상 및 비정상 샘플 간 재구성 오차 격차가 미미한 '정체성 매핑 문제'를 해결한다.
• CNN의 국소적 수신장 한계를 극복하기 위해 비전 트랜스포머를 통해 전역적 맥락 모델링을 통합한다.
• 개별 카테고리 학습 파라다임을 넘어 다양한 제품 카테고리 간 일반화 가능한 이상 탐지 기능을 제공한다.
• 이상 탐지 정확도 향상을 위한 자기 지율적 재구성 프레임워크를 개발하여 특징 재구성 정밀도와 이상 위치 규명 정확도를 향상시킨다.
• 보조 토큰을 사용한 새로운 자기 유도 메커니즘을 도입하여 의미적 재구성에 유도하고 특징 재구성에서 비현실적인 단순화된 경로를 방지한다.

제안 방법

• 입력 이미지에서 고의미적 깊은 특징 맵을 생성하기 위해 사전 훈련된 CNN을 특징 추출 백본으로 활용한다.
• 추출된 특징을 보조 유도 토큰을 사용해 재구성하는 자기 유도 비전 트랜스포머(SIVT)를 제안하여 전역적 의미를 모델링한다.
• 보조 유도 시퀀스를 N개(=4)의 상호 배타적 부분집합으로 분해하여 특징 패치 부분집합들로부터 상보적인 의미를 유도한다.
• 계산 비용을 줄이면서도 재구성 정확도를 유지하기 위해 P=2로 패치 기반 특징 임bedding을 사용한다.
• 이상 레이블이 필요 없이 정상 샘플에서만 재구성 손실을 사용해 자기 지율적 방식으로 모델을 훈련한다.
• 원본 특징과 재구성된 특징 간의 의미적 특징 잔차 차이를 계산하여 이상을 탐지한다.

실험 결과

연구 질문

• RQ1 카테고리별 특화 모델 대비 하이브리드 CNN-Transformer 프레임워크가 다중 카테고리 산업 시각 이상 탐지에서 일반화 성능을 향상시키는가?
• RQ2 비전 트랜스포머에 보조 유도 토큰을 도입함으로써 이상 탐지에서 비현실적인 재구성 단순화 경로를 효과적으로 방지할 수 있는가?
• RQ3 유도 부분집합 수(N)가 자기 유도 메커니즘의 성능 및 효율성에 미치는 영향은 어떠한가?
• RQ4 재구성 정확도와 계산 효율성의 균형을 고려할 때 최적의 패치 크기(P)는 무엇인가?
• RQ5 기본 트랜스포머 기반 재구성 방식에 비해 자기 유도 메커니즘이 AUROC와 AP에 얼마나 향상시키는가?

주요 결과

• SIVT 프레임워크는 Mvtec AD 벤치마크에서 최신 기술 수준의 성능을 달성하여 이전 방법 대비 AUROC를 2.8–6.3 포인트 향상시키고 AP를 3.3–7.6 포인트 향상시켰다.
• 자기 유도 메커니즘이 비정상 샘플의 재구성 오차를 크게 감소시켜, 기본 트랜스포머 대비 이미지 수준 AUROC를 12.0 포인트 향상시키고 픽셀 수준 AUROC를 6.8 포인트 향상시켰다.
• 기본 트랜스포머 기반 기준 대비 자기 유도 메커니즘이 이미지 수준 AP를 6.2 포인트 향상시키고 픽셀 수준 AP를 20.5 포인트 향상시켰다.
• 유도 부분집합 수(N)를 4로 설정할 경우 성능과 계산 비용 간 최적의 균형을 이룬다. 성능은 N=4에서 최고에 도달하고, N이 더 커지면 감소한다.
• 패치 크기(P)가 2일 때 재구성 정확도와 효율성 간 최적의 균형을 이룬다. P가 4를 초과하면 성능이 급격히 저하된다.
• SIVT 모델은 다양한 제품 카테고리 간 뛰어난 일반화 성능을 보이며, 카테고리별 재학습 없이도 교차 카테고리 이상 탐지 기능을 제공한다.