[논문 리뷰] MLF-SC: Incorporating multi-layer features to sparse coding for anomaly detection

Ryuji Imamura, Kohei Azuma외 2명|arXiv (Cornell University)|2021. 04. 09.

Anomaly Detection Techniques and Applications참고 문헌 14인용 수 5

한 줄 요약

이 논문은 사전 훈련된 VGG16 네트워크에서 다층 특징을 통합함으로써 희소 코딩을 향상시키는 새로운 이상 탐지 방법인 MLF-SC를 제안한다. 원본 이미지가 아닌 중간 특징 맵에 희소 코딩을 적용함으로써, MLF-SC는 다중 척도에서 이상을 효과적으로 포착하며, MVTec AD 무늬 데이터셋에서 평균 AUROC 0.97을 기록하여 기존의 희소 코딩 및 다른 딥 러닝 기반 방법들보다 뚜렷이 뛰어난 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Anomalies in images occur in various scales from a small hole on a carpet to a large stain. However, anomaly detection based on sparse coding, one of the widely used anomaly detection methods, has an issue in dealing with anomalies that are out of the patch size employed to sparsely represent images. A large anomaly can be considered normal if seen in a small scale, but it is not easy to determine a single scale (patch size) that works well for all images. Then, we propose to incorporate multi-scale features to sparse coding and improve the performance of anomaly detection. The proposed method, multi-layer feature sparse coding (MLF-SC), employs a neural network for feature extraction, and feature maps from intermediate layers of the network are given to sparse coding, whereas the standard sparse-coding-based anomaly detection method directly works on given images. We show that MLF-SC outperforms state-of-the-art anomaly detection methods including those employing deep learning. Our target data are the texture categories of the MVTec Anomaly Detection (MVTec AD) dataset, which is a modern benchmark dataset consisting of images from the real world. Our idea can be a simple and practical option to deal with practical data.

연구 동기 및 목표

• 고정된 패치 크기로 인해 큰 크기의 이상을 탐지하는 데 한계가 있는 희소 코딩의 문제를 해결하기 위해.
• 실세계 이미지의 다양한 무늬 유형에서 이상 탐지의 강건성을 향상시키기 위해.
• 깊이 신경망의 계층적 특징을 활용하여 이상 표현을 향상시키기 위해.
• 기존의 희소 코딩과 현대적인 딥 러닝 기반 이상 탐지 모델을 모두 능가하는 실용적인 비생성적 방법을 개발하기 위해.
• 희소 코딩에 다중 척도 특징 표현이 이상 탐지에 효과적인지 입증하기 위해.

제안 방법

• 사전 훈련된 VGG16 네트워크를 사용해 중간 레이어에서 다층 특징을 추출한다.
• 희소 코딩은 원본 이미지가 아니라 VGG16의 여러 레이어에서 추출한 특징 맵에 적용된다.
• 각 무늬 유형 카테고리의 정상 이미지 전용으로 사전을 훈련시켜 특징 패치를 재구성한다.
• 각 특징 패치의 재구성 오차를 계산하고, 상위 5개의 가장 큰 오차를 합쳐 이상도를 형성한다.
• 이상도는 임계값을 적용하여 이미지를 정상 또는 이상으로 분류하며, 높은 오차 영역에 집중함으로써 소형 또는 대형 이상을 탐지한다.
• 최적화는 희소성 유도 파rameter α = 1을 사용한 Lasso-LARS를 사용하며, 특징 맵의 패치 크기는 8×8, 스트라이드는 2이다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크의 다층 특징이 희소 코딩에서 다양한 척도의 이상 탐지에 향상 기여할 수 있는가?
• RQ2 중간 특징 맵에 희소 코딩을 적용하는 것이 원본 이미지 패치를 사용하는 것보다 이상 탐지 성능을 향상시키는가?
• RQ3 실세계 무늬 데이터에서 자동에코더, AnoGAN, CNN 특징 사전와 같은 최신 기술 수준의 방법들과 비교할 때 MLF-SC는 어떻게 성능을 내는가?
• RQ4 비생성적 희소 코딩 기반 방법이 MVTec AD 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ5 다양한 무늬 유형과 이질적인 이상 특성에 대해 제안된 방법이 강건한가?

주요 결과

• MLF-SC는 MVTec AD 데이터셋의 모든 다섯 가지 무늬 유형 카테고리에서 평균 AUROC 0.97을 기록하여 비교된 모든 방법들을 능가했다.
• 카펫 카테고리에서는 MLF-SC가 AUROC 0.99를 기록했고, 표준 희소 코딩은 0.58에 머물렀다.
• 레더 카테고리에서는 MLF-SC가 AUROC 0.99를 달성했으며, CNN 특징 사전(0.95 AUROC)과 AnoGAN(0.12 AUROC)을 크게 앞섰다.
• 재구성 오차 히스토GRAM에서 깊은 레이어 특징이 정상 분포와 명확히 분리됨을 통해, 표준 희소 코딩이 놓쳤던 대형 이상도 성공적으로 탐지했다.
• MLF-SC는 모든 다섯 가지 무늬 유형에서 일관된 성능을 보였으며, 각 카테고리에서 AUROC 값이 0.92 이상이었고, 이는 강력한 강건성을 시사한다.
• 상위 5개의 가장 큰 재구성 오차를 사용함으로써, 정상 영역에 의해 억압되는 것을 방지하고 소형 이상 탐지 성능을 향상시켰다.