[论文解读] MLF-SC: Incorporating multi-layer features to sparse coding for anomaly detection

Ryuji Imamura, Kohei Azuma+2 more|arXiv (Cornell University)|Apr 9, 2021

Anomaly Detection Techniques and Applications参考文献 14被引用 5

一句话总结

本文提出 MLF-SC，一种新颖的异常检测方法，通过融合预训练 VGG16 网络的多层特征，增强了稀疏编码。通过将稀疏编码应用于中间特征图而非原始图像，MLF-SC 有效捕捉了多尺度异常，在 MVTec AD 纹理数据集上实现了最先进性能，平均 AUROC 达到 0.97，显著优于传统稀疏编码和其他基于深度学习的方法。

ABSTRACT

Anomalies in images occur in various scales from a small hole on a carpet to a large stain. However, anomaly detection based on sparse coding, one of the widely used anomaly detection methods, has an issue in dealing with anomalies that are out of the patch size employed to sparsely represent images. A large anomaly can be considered normal if seen in a small scale, but it is not easy to determine a single scale (patch size) that works well for all images. Then, we propose to incorporate multi-scale features to sparse coding and improve the performance of anomaly detection. The proposed method, multi-layer feature sparse coding (MLF-SC), employs a neural network for feature extraction, and feature maps from intermediate layers of the network are given to sparse coding, whereas the standard sparse-coding-based anomaly detection method directly works on given images. We show that MLF-SC outperforms state-of-the-art anomaly detection methods including those employing deep learning. Our target data are the texture categories of the MVTec Anomaly Detection (MVTec AD) dataset, which is a modern benchmark dataset consisting of images from the real world. Our idea can be a simple and practical option to deal with practical data.

研究动机与目标

• 解决由于固定图像块大小导致的稀疏编码在检测大尺度异常时的局限性。
• 提升在真实世界图像中多种纹理类型下的异常检测鲁棒性。
• 利用深度神经网络的层次化特征，以获得更好的异常表征。
• 开发一种实用的非生成式方法，其性能优于经典稀疏编码和现代基于深度学习的异常检测模型。
• 证明多尺度特征表征在稀疏编码中的异常检测有效性。

提出的方法

• 该方法使用预训练的 VGG16 网络，从中间层提取多尺度特征。
• 稀疏编码并非应用于原始图像，而是应用于 VGG16 多个层级的特征图。
• 为每个纹理类别中的正常图像单独训练字典，用于重建特征块。
• 计算每个特征块的重建误差，并将误差最大的前 5 个值相加，形成异常分数。
• 通过设定阈值对异常分数进行分类，将图像判定为正常或异常，重点聚焦于高误差区域，以检测小尺寸或大尺寸异常。
• 优化使用 Lasso-LARS 方法，稀疏性诱导参数 α = 1，特征图的图像块大小为 8×8，步长为 2。

实验结果

研究问题

• RQ1 能否利用深度神经网络的多层特征，提升稀疏编码在检测不同尺度异常方面的性能？
• RQ2 将稀疏编码应用于中间特征图，是否能比使用原始图像块获得更好的异常检测性能？
• RQ3 在真实世界纹理数据上，MLF-SC 与自编码器、AnoGAN 和 CNN 特征字典等最先进方法相比表现如何？
• RQ4 非生成式、基于稀疏编码的方法能否在 MVTec AD 基准测试中实现最先进性能？
• RQ5 所提出方法在具有不同异常特征的多种纹理类别中是否具备鲁棒性？

主要发现

• MLF-SC 在 MVTec AD 数据集全部五个纹理类别上的平均 AUROC 达到 0.97，超越所有对比方法。
• 在 Carpet 类别中，MLF-SC 的 AUROC 达到 0.99，而标准稀疏编码仅为 0.58。
• 在 Leather 类别中，MLF-SC 的 AUROC 达到 0.99，显著优于 CNN 特征字典（0.95 AUROC）和 AnoGAN（0.12 AUROC）。
• 该方法成功检测出标准稀疏编码所遗漏的大尺寸异常，如重建误差直方图所示，深层特征明显与正常分布分离。
• MLF-SC 在所有五个纹理类别中均表现出一致的高性能，每个类别的 AUROC 值均高于 0.92，表明其具有强大的鲁棒性。
• 采用前 5 个最大重建误差的方法，通过聚焦高误差区域，提升了对小尺寸异常的检测能力，避免了被正常区域抑制。