[论文解读] SimpleNet: A Simple Network for Image Anomaly Detection and Localization

Zhikang Liu, Yiming Zhou+2 more|arXiv (Cornell University)|Mar 27, 2023

Anomaly Detection Techniques and Applications被引用 15

一句话总结

SimpleNet 引入一个轻量级的特征空间异常生成器和一个简单的判别器，用于无监督的图像异常检测与定位，在 MVTec AD 上实现了最先进的结果并具备快速推理。

ABSTRACT

We propose a simple and application-friendly network (called SimpleNet) for detecting and localizing anomalies. SimpleNet consists of four components: (1) a pre-trained Feature Extractor that generates local features, (2) a shallow Feature Adapter that transfers local features towards target domain, (3) a simple Anomaly Feature Generator that counterfeits anomaly features by adding Gaussian noise to normal features, and (4) a binary Anomaly Discriminator that distinguishes anomaly features from normal features. During inference, the Anomaly Feature Generator would be discarded. Our approach is based on three intuitions. First, transforming pre-trained features to target-oriented features helps avoid domain bias. Second, generating synthetic anomalies in feature space is more effective, as defects may not have much commonality in the image space. Third, a simple discriminator is much efficient and practical. In spite of simplicity, SimpleNet outperforms previous methods quantitatively and qualitatively. On the MVTec AD benchmark, SimpleNet achieves an anomaly detection AUROC of 99.6%, reducing the error by 55.5% compared to the next best performing model. Furthermore, SimpleNet is faster than existing methods, with a high frame rate of 77 FPS on a 3080ti GPU. Additionally, SimpleNet demonstrates significant improvements in performance on the One-Class Novelty Detection task. Code: https://github.com/DonaldRR/SimpleNet.

研究动机与目标

• 在工业图像中异常罕见且多样的情况下，推动鲁棒的异常检测与定位。
• 利用预训练特征及目标域适配器以降低领域偏差。
• 在特征空间中合成异常，而非在图像空间，来创建有效的负样本。
• 在训练中使用一个简单的判别器来高效区分正常特征与异常特征。
• 在 MVTec AD 基准测试和单类新颖性检测上展示出强大的性能和快速推理。

提出的方法

• 使用预训练的 Feature Extractor 从多个层次获取局部特征。
• 应用 Feature Adaptor 将提取的特征投射到目标域空间。
• 通过对经过适配的正常特征添加高斯噪声来生成异常特征（仅在训练期间）。
• 训练一个二分类判别器，在特征空间中区分正常与异常特征。
• 推理阶段丢弃异常特征生成器，实现单流网络。
• 使用判别器对异常进行评分，生成逐位置的异常图和图像级分数。

实验结果

研究问题

• RQ1 如何降低预训练骨干网络在工业异常检测中的领域偏差？
• RQ2 在特征空间合成异常是否优于在图像空间合成或完全监督方法？
• RQ3 当结合特征适配器时，简单的判别器是否足以实现有效的异常定位与检测？
• RQ4 与之前的最先进方法在 MVTec AD 上相比，精准度与推理速度的权衡是什么？
• RQ5 SimpleNet 对单类新颖性检测任务的泛化能力如何？

主要发现

• 在 3080ti GPU 上以 77 FPS 推理，在 MVTec AD 上达到 99.6% 的 I-AUROC，在准确性和速度上均超越先前方法。
• 在 MVTec AD 的多种纹理和对象类别上超过最先进方法。
• 在 WideResNet50 主干下，SimpleNet 的平均 I-AUROC 为 99.6%，平均 P-AUROC 为 98.1%。
• 只有一个全连接层的特征适配器在消融实验中表现最佳，表明判别器受益于紧凑、目标对齐的特征空间。
• 消融实验显示适中的高斯噪声尺度（sigma 约 0.015）在检测精度与训练稳定性之间取得平衡；更复杂的适配器可能损害性能。
• 在 CIFAR-10 的单类新颖性检测显示与若干基线方法具竞争力甚至更优。