[论文解读] DSR -- A dual subspace re-projection network for surface anomaly detection

Vitjan Zavrtanik, Matej Kristan+1 more|arXiv (Cornell University)|Aug 2, 2022

Anomaly Detection Techniques and Applications被引用 6

一句话总结

DSR 提出了一种用于无监督表面异常检测的双子空间重投影网络，该方法在量化特征空间而非图像空间中生成异常，从而在不依赖外部异常合成数据集的情况下，实现了对近分布内异常的鲁棒检测。该方法在 KSDD2 数据集上实现了最先进性能，异常检测的 AP 提升了 10%，异常定位的 AP 提升了 35%。

ABSTRACT

The state-of-the-art in discriminative unsupervised surface anomaly detection relies on external datasets for synthesizing anomaly-augmented training images. Such approaches are prone to failure on near-in-distribution anomalies since these are difficult to be synthesized realistically due to their similarity to anomaly-free regions. We propose an architecture based on quantized feature space representation with dual decoders, DSR, that avoids the image-level anomaly synthesis requirement. Without making any assumptions about the visual properties of anomalies, DSR generates the anomalies at the feature level by sampling the learned quantized feature space, which allows a controlled generation of near-in-distribution anomalies. DSR achieves state-of-the-art results on the KSDD2 and MVTec anomaly detection datasets. The experiments on the challenging real-world KSDD2 dataset show that DSR significantly outperforms other unsupervised surface anomaly detection methods, improving the previous top-performing methods by 10% AP in anomaly detection and 35% AP in anomaly localization.

研究动机与目标

• 为解决现有无监督表面异常检测方法依赖外部数据集进行图像级异常合成所导致的局限性，此类方法在近分布内异常上常表现不佳。
• 提升对细微、分布内异常的检测能力，这些异常难以通过传统图像级增强技术真实模拟。
• 开发一种直接在离散潜在特征空间中生成合成异常的方法，从而实现更真实且可控的异常模拟。
• 在无需训练时使用标注异常的情况下，实现在真实世界 KSDD2 和标准 MVTec 异常检测基准上的最先进性能。
• 在弱监督设置下有效利用有限的标注异常样本，实现少样本情况下的性能提升。

提出的方法

• 该方法采用双分支解码器架构，通过共享编码器与离散潜在表示，联合重建输入图像及其特征。
• 利用向量量化变分自编码器（VQ-VAE）框架，从正常图像中学习离散的量化潜在空间，实现结构化的特征表示。
• 通过从潜在空间的码书向量中采样生成异常，这些向量与正常区域的特征相似，同时使用学习到的相似性边界控制合成异常的真实性。
• 网络通过组合损失进行训练，包括图像重建损失（$L_{img}$）、特征重建损失（$L_{feat}$）以及感知损失，以保持结构一致性。
• 采用上采样模块以在更高分辨率下优化异常图，提升定位精度。
• 异常生成过程由正常图像块的潜在码与候选码书向量之间的相似性引导，确保生成的异常在视觉上合理且接近正常外观。

实验结果

研究问题

• RQ1 与在图像空间中生成合成异常相比，在潜在特征空间中生成是否能显著提升异常检测性能？
• RQ2 特征级异常生成是否能更好地检测难以通过图像级方法模拟的近分布内异常？
• RQ3 离散潜在空间表示是否能实现对正常外观的鲁棒重建，同时仍支持有效的异常检测？
• RQ4 码书采样策略的选择如何影响异常检测与定位的性能？
• RQ5 所提出方法是否能在仅包含少量标注异常样本的弱监督设置下实现良好泛化？

主要发现

• 与先前最先进方法相比，DSR 在真实世界 KSDD2 数据集上实现了异常检测 AP 的绝对提升 10%，异常定位 AP 提升 35%。
• 在 MVTec 数据集上，DSR 实现了最先进性能，AUROC 达 98.2%，AP 达 70.2%。
• 消融实验表明，从码书进行均匀采样（DSR random）相比所提出的基于相似性的采样策略，AP 下降 2.6%，证明了采样策略的重要性。
• 仅使用图像重建损失（$L_{img}$）或仅使用特征重建损失（$L_{feat}$）进行训练，会导致 AUROC 下降 2.7 个百分点，AP 下降 5.0 个百分点，表明两种损失组件均不可或缺。
• 移除上采样模块会使定位 AP 下降 5.0 个百分点，表明其在高分辨率异常图预测中起着关键作用。
• DSR 推理速度达 58 FPS，适用于实时工业应用。