[论文解读] Attention Guided Anomaly Detection and Localization in Images.

Shashanka Venkataramanan, Kuan–Chuan Peng+2 more|arXiv (Cornell University)|Nov 19, 2019

Anomaly Detection Techniques and Applications参考文献 28被引用 13

一句话总结

本文提出CAVGA，一种用于无监督和弱监督异常检测与定位的卷积对抗变分自编码器，结合引导注意力机制。它采用空间感知的潜在变量和新颖的注意力损失，聚焦于正常区域，在MVTec、mSTC和LAG数据集上表现优于SOTA方法，且无需异常训练图像或仅使用2%的异常数据。

ABSTRACT

Anomaly localization is an important problem in computer vision which involves localizing anomalous regions within images with applications in industrial inspection, surveillance, and medical imaging. This task is challenging due to the small sample size and pixel coverage of the anomaly in real-world scenarios. Most prior works need to use anomalous training images to compute a class-specific threshold to localize anomalies. Without the need of anomalous training images, we propose Convolutional Adversarial Variational autoencoder with Guided Attention (CAVGA), which localizes the anomaly with a convolutional latent variable to preserve the spatial information. In the unsupervised setting, we propose an attention expansion loss where we encourage CAVGA to focus on all normal regions in the image. Furthermore, in the weakly-supervised setting we propose a complementary guided attention loss, where we encourage the attention map to focus on all normal regions while minimizing the attention map corresponding to anomalous regions in the image. CAVGA outperforms the state-of-the-art (SOTA) anomaly localization methods on MVTec Anomaly Detection (MVTAD), modified ShanghaiTech Campus (mSTC) and Large-scale Attention based Glaucoma (LAG) datasets in the unsupervised setting and when using only 2% anomalous images in the weakly-supervised setting. CAVGA also outperforms SOTA anomaly detection methods on the MNIST, CIFAR-10, Fashion-MNIST, MVTAD, mSTC and LAG datasets.

研究动机与目标

• 解决在异常样本有限且异常区域覆盖范围小的图像中实现异常定位的挑战。
• 通过利用无监督和弱监督学习，消除异常训练图像在异常定位中的需求。
• 通过使用卷积潜在变量，在潜在空间中保留空间信息，以实现精确的异常定位。
• 开发基于注意力的损失函数，引导模型聚焦于正常区域，同时抑制对异常区域的关注。
• 在多个基准数据集上，实现异常检测与定位的最先进性能。

提出的方法

• CAVGA采用卷积潜在变量，以在潜在表示中保持空间结构，从而实现对异常的精确定位。
• 在无监督设置中，注意力扩展损失促使模型关注图像中的所有正常区域。
• 在弱监督设置中，互补的引导注意力损失最小化对异常区域的关注，同时最大化对正常区域的关注。
• 模型使用对抗训练以提升潜在空间中的重建质量与特征真实性。
• 注意力图用于生成异常热力图，基于重建误差和注意力分布突出显示异常区域。
• 该框架通过重建损失、对抗损失和所提出的基于注意力的正则化项进行端到端训练。

实验结果

研究问题

• RQ1 能否通过自监督方法在无需任何异常训练图像的情况下实现异常定位？
• RQ2 引导注意力在聚焦于正常区域方面有多有效，能否提升异常定位性能？
• RQ3 统一模型能否在无监督和弱监督异常检测与定位中均实现最先进性能？
• RQ4 与全连接潜在空间相比，使用卷积潜在变量在保留空间信息以实现异常定位方面表现如何？
• RQ5 所提出的注意力损失相较于标准基于重建的方法，在基准数据集上的性能提升如何？

主要发现

• CAVGA在MVTec异常检测（MVTAD）、改进的上海交通大学校园（mSTC）和基于大规模注意力的青光眼（LAG）数据集上，实现了无监督异常定位的最先进性能。
• 在训练集中仅包含2%异常图像的情况下，CAVGA在相同基准上显著优于现有的弱监督方法。
• CAVGA在MNIST、CIFAR-10、Fashion-MNIST、MVTAD、mSTC和LAG数据集上的异常检测与定位任务中，均超越了SOTA异常检测方法。
• 在无监督设置中，注意力扩展损失有效引导模型关注正常区域，提升了定位精度。
• 在弱监督设置中，互补的引导注意力损失成功抑制了对异常区域的关注，增强了检测性能。
• 使用卷积潜在变量相比标准VAE，能实现更好的空间重建和更精确的异常定位。