Skip to main content
QUICK REVIEW

[论文解读] EfficientAD: Accurate Visual Anomaly Detection at Millisecond-Level Latencies

Kilian Batzner, Lars Heckler|arXiv (Cornell University)|Mar 25, 2023
Anomaly Detection Techniques and ApplicationsComputer Science被引用 8
一句话总结

EfficientAD 通过一个轻量级的补丁描述网络、一个新颖的困难特征损失以及用于逻辑异常的自编码器,在毫秒级延迟下实现最先进的异常检测与定位,在工业数据集上具备卓越的速度与精度。

ABSTRACT

Detecting anomalies in images is an important task, especially in real-time computer vision applications. In this work, we focus on computational efficiency and propose a lightweight feature extractor that processes an image in less than a millisecond on a modern GPU. We then use a student-teacher approach to detect anomalous features. We train a student network to predict the extracted features of normal, i.e., anomaly-free training images. The detection of anomalies at test time is enabled by the student failing to predict their features. We propose a training loss that hinders the student from imitating the teacher feature extractor beyond the normal images. It allows us to drastically reduce the computational cost of the student-teacher model, while improving the detection of anomalous features. We furthermore address the detection of challenging logical anomalies that involve invalid combinations of normal local features, for example, a wrong ordering of objects. We detect these anomalies by efficiently incorporating an autoencoder that analyzes images globally. We evaluate our method, called EfficientAD, on 32 datasets from three industrial anomaly detection dataset collections. EfficientAD sets new standards for both the detection and the localization of anomalies. At a latency of two milliseconds and a throughput of six hundred images per second, it enables a fast handling of anomalies. Together with its low error rate, this makes it an economical solution for real-world applications and a fruitful basis for future research.

研究动机与目标

  • 开发适用于实时工业场景的快速、准确的视觉异常检测方法。
  • 设计在现代 GPU 上以不到 1 ms 的速度运行的高效补丁特征提取器。
  • 引入一种在不增加测试时成本的前提下改善学生–教师异常检测的损失。
  • 结合自编码器以检测逻辑异常,并将其输出与学生–教师信号整合。
  • 提供校准的组合与归一化技术,将局部与全局异常信号融合为最终的异常得分图。

提出的方法

  • 引入一个轻量级补丁描述网络(PDN),从预训练分类器中蒸馏特征,产生覆盖全卷积的 33×33 补丁。
  • 使用学生–教师框架,教师和学生都使用高效的 PDN 特征来检测异常补丁。
  • 提出一个困难特征损失,仅对最困难的补丁特征进行反向传播,限制对正常区域的 imitate 并提升对异常的敏感性。
  • 增加一个预训练图像惩罚,防止学生对分布外输入的泛化 imitate。
  • 引入一个学习全局逻辑约束的自编码器,训练学生同时预测教师和自编码器的输出,从而实现对逻辑异常的检测。
  • 通过基于分位数的方法对局部和全局异常图进行归一化,以实现稳健融合为最终的异常分数图。

实验结果

研究问题

  • RQ1一个高效的特征提取器是否能够在标准工业数据集上实现毫秒级的异常检测?
  • RQ2一种专注于困难特征的训练损失是否在不牺牲延迟的前提下提升异常检测?
  • RQ3将用于逻辑约束的自编码器与轻量级的学生–教师模型结合是否能改善对逻辑异常的检测?
  • RQ4如何对局部与全局异常信号进行校准与融合,以最大化检测/定位性能?
  • RQ5在多种工业数据集(MVTec AD、VisA、MVTec LOCO)上,模型大小、速度与精度之间的权衡如何?

主要发现

  • EfficientAD 在延迟约为 2 ms、吞吐量约为 600 张/秒(EfficientAD-S)的情况下,达到领先的异常检测与定位性能。
  • EfficientAD-M 将检测进一步提升至 96.0% AU-ROC 和 93.3% AU-PRO,延迟为 4.5 ms,吞吐量为 269 张/秒。
  • 提出的困难特征损失相对于基线的学生–教师设置,提供约 1.0 个百分点的 AU-ROC 提升。
  • 一种预训练惩罚进一步提升检测性能,同时保持低推理成本。
  • 基于分位数的图归一化在跨数据集集合中稳健地稳定局部与全局异常图的融合。
  • EfficientAD 在 32 种异常检测情景下,超越了广泛的基线方法(如 GCAD、SimpleNet、S–T、FastFlow、DSR、PatchCore、AST),覆盖 MVTec AD、VisA、MVTec LOCO 数据集。

阅读本论文

在 Nubint 阅读器中打开原文,边读边就任意段落提问。

在 Nubint 中阅读本论文

本解读由 AI 根据论文原文生成,引用前请核对原文。