[논문 리뷰] Attention Modules Improve Image-Level Anomaly Detection for Industrial Inspection: A DifferNet Case Study

André Luiz Buarque Vieira-e-Silva, Francisco Simões외 4명|arXiv (Cornell University)|2023. 11. 05.

Industrial Vision Systems and Defect Detection인용 수 4

한 줄 요약

이 논문은 DifferNet 이상 탐지 모델의 주의 메커니즘 강화된 변종인 AttentDifferNet을 제안하며, 특징 추출기 내에 채널 및 공간 주의 모듈을 통합하여 산업 검사에서 이미지 수준 이상 탐지 성능을 향상시킨다. 이는 세 가지 데이터셋에서 DifferNet 대비 평균 AUROC 1.77±0.25%p 향상으로, 인-더-와일드 InsPLAD-fault 데이터셋에서 최신 기술 성능을 달성한다.

ABSTRACT

Within (semi-)automated visual industrial inspection, learning-based approaches for assessing visual defects, including deep neural networks, enable the processing of otherwise small defect patterns in pixel size on high-resolution imagery. The emergence of these often rarely occurring defect patterns explains the general need for labeled data corpora. To alleviate this issue and advance the current state of the art in unsupervised visual inspection, this work proposes a DifferNet-based solution enhanced with attention modules: AttentDifferNet. It improves image-level detection and classification capabilities on three visual anomaly detection datasets for industrial inspection: InsPLAD-fault, MVTec AD, and Semiconductor Wafer. In comparison to the state of the art, AttentDifferNet achieves improved results, which are, in turn, highlighted throughout our quali-quantitative study. Our quantitative evaluation shows an average improvement - compared to DifferNet - of 1.77 +/- 0.25 percentage points in overall AUROC considering all three datasets, reaching SOTA results in InsPLAD-fault, an industrial inspection in-the-wild dataset. As our variants to AttentDifferNet show great prospects in the context of currently investigated approaches, a baseline is formulated, emphasizing the importance of attention for industrial anomaly detection both in the wild and in controlled environments.

연구 동기 및 목표

• 산업 시각 검사에서 레이블이 부여된 결함 데이터가 제한적인 문제를 해결하기 위해 비지도 이상 탐지 방법을 발전시킨다.
• 조명, 크기, 배경의 변동성이 높은 비제어적, 인-더-와일드 산업 검사 환경에서 최신 기술 이상 탐지 모델의 성능을 향상시킨다.
• 정규화 흐름 기반 이상 탐지 모델인 DifferNet과 같은 모델에서 주의 메커니즘이 특징 표현을 향상시킬 수 있는지 조사한다.
• 다양한 산업 데이터셋에서 일관된 성능 향상을 보여줌으로써 주의 강화된 비지도 이상 탐지의 새로운 기준을 설정한다.

제안 방법

• DifferNet의 백본 특징 추출기 내에 채널 및 공간 주의 모듈(특히 SENet 블록)을 통합하여 특징 표현을 정밀하게 조정한다.
• 정규화 흐름을 사용하여 정상 샘플의 잠재 분포를 모델링하고, 가능도 추정 기반 이상 점수를 산출한다.
• Grad-CAM을 적용하여 주의 기반 특징 활성화 패턴을 시각화하고, 주의 강화된 모델과 기준 모델 간의 차이를 분석한다.
• AUROC를 주요 평가 지표로 사용하여 세 가지 데이터셋(InsPLAD-fault: 인-더-와일드, MVTec AD: 제어된, Semiconductor Wafer: 제어된)에서 AttentDifferNet을 훈련 및 평가한다.
• 주의 블록을 체계적으로 제거함으로써 아블레이션 스터디를 수행하여 각 블록의 개별 및 통합 영향을 평가한다.
• 일반화성 평가를 위해 AttentDifferNet을 표준 DifferNet, FastFlow, RD++와 비교한다.

실험 결과

연구 질문

• RQ1 비제어적, 인-더-와일드 환경에서 DifferNet의 이미지 수준 이상 탐지 성능을 주의 모듈이 향상시킬 수 있는가?
• RQ2 주의 메커니즘의 통합이 정규화 흐름 기반 모델에서 특징 표현과 이상 국소화에 어떤 영향을 미치는가?
• RQ3 InsPLAD-fault 데이터셋에서 AttentDifferNet은 실제 산업 검사 과제를 반영하는 최신 기술 성능을 달성하는가?
• RQ4 주의 블록의 위치 및 구성이 성능에 미치는 영향은 무엇이며, 특히 AUROC 향상 측면에서 어떤가?
• RQ5 주의 강화 기반 접근법은 DifferNet을 초월하여 다른 최신 기술 비지도 이상 탐지 방법에도 일반화 가능한가?

주요 결과

• InsPLAD-fault, MVTec AD, Semiconductor Wafer 데이터셋에서 DifferNet 대비 AttentDifferNet은 평균 AUROC 1.77±0.25%p 향상되었다.
• InsPLAD-fault 데이터셋에서 AttentDifferNet은 인-더-와일드 산업 검사 환경에서 기존 방법들을 능가하는 최신 기술 성능을 달성했다.
• 아블레이션 스터디 결과, 세 개의 주의 블록(AB1, AB2, AB3)을 모두 사용할 경우 Glass Insulator 카테고리에서 AUROC 86.57%를 기록하여 기준 DifferNet(82.81%)보다 뚜렷이 높은 성능을 보였다.
• 후행 레이어에 위치한 주의 블록(예: AB3)이 성능 향상에 더 큰 영향을 미치며, 이는 깊이 있는 특징 정밀 조정이 더 효과적임을 시사한다.
• Grad-CAM을 활용한 정성적 분석 결과, 인-더-와일드 환경에서는 주의 기반 모델이 관심 대상에 더 정밀하게 집중하는 것으로 나타났고, 제어된 환경에서는 결함 자체에 더 집중하였다.
• FastFlow 및 RD++의 주의 강화된 버전 역시 일관된 성능 향상을 보이며, 이는 이 접근법이 DifferNet을 초월해 일반화 가능함을 시사한다.