[论文解读] Patch SVDD: Patch-level SVDD for Anomaly Detection and Segmentation

Jihun Yi, Sungroh Yoon|arXiv (Cornell University)|Jun 29, 2020

Anomaly Detection Techniques and Applications参考文献 33被引用 57

一句话总结

Patch SVDD 将 Deep SVDD 扩展至补丁级异常检测与分割，利用自监督学习，通过在补丁级定位缺陷，在 MVTec AD 上实现最先进的 AUROC。

ABSTRACT

In this paper, we address the problem of image anomaly detection and segmentation. Anomaly detection involves making a binary decision as to whether an input image contains an anomaly, and anomaly segmentation aims to locate the anomaly on the pixel level. Support vector data description (SVDD) is a long-standing algorithm used for an anomaly detection, and we extend its deep learning variant to the patch-based method using self-supervised learning. This extension enables anomaly segmentation and improves detection performance. As a result, anomaly detection and segmentation performances measured in AUROC on MVTec AD dataset increased by 9.8% and 7.0%, respectively, compared to the previous state-of-the-art methods. Our results indicate the efficacy of the proposed method and its potential for industrial application. Detailed analysis of the proposed method offers insights regarding its behavior, and the code is available online.

研究动机与目标

• 解决图像异常检测与像素级异常分割的问题。
• 利用并扩展 Deep SVDD 的补丁级处理以定位缺陷。
• 结合自监督学习以应对补丁内类别内的高变异。
• 实现多尺度与分层编码以改善检测与定位。

提出的方法

• 将 Deep SVDD 扩展到逐补丁的检测，通过对每个图像补丁进行编码而非对整张图像进行编码。
• 用基于 SVDD 的损失和自监督 SSL 损失相结合来训练补丁编码器，以形成语义上有意义的补丁表示。
• 利用自监督学习鼓励补丁语义聚类，缓解补丁空间中单中心的问题。
• 应用分层编码以捕捉具有小 receptive field 与大 receptive field 的多尺度信息。
• 通过最近邻距离对正常补丁特征生成异常图，并通过逐元素相乘将来自多个编码器的图图像结合。
• 将补丁级异常图聚合为图像级分数以用于检测，并聚合为像素级图以用于分割。

实验结果

研究问题

• RQ1 补丁级 SVDD 是否能够在异常检测与分割方面优于全图像变体的 SVDD？
• RQ2 引入自监督学习是否改善补丁特征的语义结构，从而提升定位准确性？
• RQ3 跨尺度的分层编码是否增强对缺陷大小的检测鲁棒性？
• RQ4 补丁级最近邻评分在像 MVTEC AD 这样的工业数据集上识别异常的效果如何？
• RQ5 将多个编码器（多尺度）结合对最终异常图的影响如何？

主要发现

Task	Method	AUROC
Anomaly Detection	Deep SVDD (ICML'18)	0.592
Anomaly Detection	GEOM (NeurIPS'18)	0.672
Anomaly Detection	GANomaly (ACCV'18)	0.762
Anomaly Detection	ITAE (arXiv'19)	0.839
Anomaly Detection	Patch SVDD (Ours)	0.921
Anomaly Segmentation	L2-AE	0.804
Anomaly Segmentation	SSIM-AE	0.818
Anomaly Segmentation	VEVAE (CVPR'20)	0.861
Anomaly Segmentation	VAE Proj (ICLR'20)	0.893
Anomaly Segmentation	Patch SVDD (Ours)	0.957

• Patch SVDD 在 MVTec AD 的异常检测任务上实现了最先进的 AUROC（0.921）。
• Patch SVDD 在 MVTec AD 的异常分割任务上实现了最先进的 AUROC（0.957）。
• 自监督损失（SSL）和 Patch SVDD 损失（SVDD'）显著优于仅使用 SVDD' 的结果，提升了检测和分割性能。
• 具有多尺度检测的分层编码在性能上优于单尺度编码。
• 随机初始化的编码器和原始补丁在某些类别上提供了意外强的基线，凸显了补丁数据的内在结构。