[论文解读] DRAEM -- A discriminatively trained reconstruction embedding for surface anomaly detection

Vitjan Zavrtanik, Matej Kristan+1 more|arXiv (Cornell University)|Aug 17, 2021

Anomaly Detection Techniques and Applications参考文献 27被引用 38

一句话总结

DRAEM 联合学习重构子网络和在仿真异常上训练的判别模块，以局部检测和分割表面异常，在 MVTec 上达到最先进的结果，在 DAGM 上在没有真实异常数据的情况下也表现强劲。

ABSTRACT

Visual surface anomaly detection aims to detect local image regions that significantly deviate from normal appearance. Recent surface anomaly detection methods rely on generative models to accurately reconstruct the normal areas and to fail on anomalies. These methods are trained only on anomaly-free images, and often require hand-crafted post-processing steps to localize the anomalies, which prohibits optimizing the feature extraction for maximal detection capability. In addition to reconstructive approach, we cast surface anomaly detection primarily as a discriminative problem and propose a discriminatively trained reconstruction anomaly embedding model (DRAEM). The proposed method learns a joint representation of an anomalous image and its anomaly-free reconstruction, while simultaneously learning a decision boundary between normal and anomalous examples. The method enables direct anomaly localization without the need for additional complicated post-processing of the network output and can be trained using simple and general anomaly simulations. On the challenging MVTec anomaly detection dataset, DRAEM outperforms the current state-of-the-art unsupervised methods by a large margin and even delivers detection performance close to the fully-supervised methods on the widely used DAGM surface-defect detection dataset, while substantially outperforming them in localization accuracy.

研究动机与目标

• 在高度不平衡、无异常训练数据的条件下，推动鲁棒的表面异常检测。
• 提出一个端到端的判别模型，联合学习重构与异常边界。
• 在不需要大量后处理的情况下实现逐像素的异常定位。
• 使用合成、刚好分布外的异常来训练，并泛化到真实世界的异常。

提出的方法

• 重构子网络训练以从被污染的输入产生无异常的重构。
• 判别子网络（类似 U-Net）对连接的 [input, reconstruction] 输入输出逐像素异常图。
• 异常仿真使用 Perlin 噪声、随机纹理和混合从 I 生成 I_a；无需真实异常。
• 总训练损失 L = L_rec(I, I_r) + L_seg(M_a, M) ，其中 L_rec 使用 SSIM + L2，L_seg 通过对 M（异常图）使用 Focal 损失。
• 图像级异常分数 η 是在平滑后的异常图 M_o 上进行最大池化得到。
• 定位和检测通过简单的均值滤波平滑实现，然后取最大值作为 η。

实验结果

研究问题

• RQ1 一个联合重构-判别框架是否能在没有真实异常数据的情况下提升对真实世界异常的泛化？
• RQ2 合成异常生成是否足以训练出准确的逐像素异常定位？
• RQ3 在原始外观与重构外观的联合端到端判别训练是否优于纯生成或纯判别方法？
• RQ4 与无监督和有监督方法相比，DRÆM 在标准基准（MVTec，DAGM）上的表现如何？

主要发现

• 在 MVTec AD 上，DRÆM 实现了最先进的结果，在图像级检测的 15 个类别中有 9 个类别的 AUROC 最高，并具备强的定位性能。
• 相较于此前方法，DRÆM 将定位提升了大约 13.4–13.5 个 AP 点。
• 在 DAGM 上，DRÆM 超越无监督方法在图像级异常检测方面的表现，并且在定位精度方面达到或超过某些有监督方法。
• 消融研究表明同时使用重构与判别组件极为关键，且带有增强和不透明度随机化的仿真异常能紧密界定决策边界。
• DRÆM 即使在异常纹理来自于最小纹理数据集或仅使用简单的均匀色的情况下也保持有效，表明对异常外观变化具有鲁棒性。