[论文解读] AnomalyHop: An SSL-based Image Anomaly Localization Method

Kaitai Zhang, Bin Wang+4 more|arXiv (Cornell University)|May 8, 2021

Anomaly Detection Techniques and Applications参考文献 47被引用 6

一句话总结

AnomalyHop 是一种基于自监督学习（SSL）的图像异常定位方法，通过逐层子空间学习（SSL）进行特征提取，利用高斯模型建模正常特征分布，并通过异常图融合实现定位。该方法在 MVTec AD 数据集上实现了 95.9% 的 SOTA ROC-AUC 性能，具有快速推理速度（每张图像 0.24 秒）和低模型复杂度（100K 参数），相较于深度学习基线方法在数学可解释性和效率方面表现更优。

ABSTRACT

An image anomaly localization method based on the successive subspace learning (SSL) framework, called AnomalyHop, is proposed in this work. AnomalyHop consists of three modules: 1) feature extraction via successive subspace learning (SSL), 2) normality feature distributions modeling via Gaussian models, and 3) anomaly map generation and fusion. Comparing with state-of-the-art image anomaly localization methods based on deep neural networks (DNNs), AnomalyHop is mathematically transparent, easy to train, and fast in its inference speed. Besides, its area under the ROC curve (ROC-AUC) performance on the MVTec AD dataset is 95.9%, which is among the best of several benchmarking methods. Our codes are publicly available at Github.

研究动机与目标

• 解决在缺乏或仅有极少异常训练数据情况下的图像异常定位挑战。
• 开发一种数学可解释、推理速度快且无需依赖大规模预训练深度神经网络的有效方法。
• 实现在 GPU 加速不切实际的现实边缘环境中高效部署。
• 在不依赖外部预训练的情况下，实现对多样化正常图像内容（如纹理、物体）的泛化能力。
• 提供一种轻量化替代方案，相较于复杂 DNN 基异常定位模型，在性能相当或更优的前提下具备更高效率。

提出的方法

• 通过在短程、中程和远程邻域上应用基于 PCA 的 c/w Saab 滤波器，利用逐层子空间学习（SSL）从正常图像中提取分层特征。
• 基于图像类别特征选择三种类型的高斯模型对正常特征分布进行建模：位置感知型、位置无关型和自参考型。
• 通过使用学习到的高斯模型计算输入特征与重建特征之间的像素级重构误差，生成异常图。
• 采用学习或固定的融合策略，将来自不同特征层级的多个异常图进行融合，以提升定位精度。
• 采用仅含 100K 参数的轻量化特征提取器（PixelHop++），实现在 CPU 上的快速训练与推理。
• 根据类别自适应选择高斯模型类型：对象类使用位置感知型，均质纹理类使用位置无关型，网格等结构化图案类使用自参考型。

实验结果

研究问题

• RQ1 基于逐层子空间学习的自监督学习框架是否能在无外部预训练的情况下实现图像异常定位的 SOTA 性能？
• RQ2 高斯模型类型（位置感知型、位置无关型、自参考型）的选择如何影响不同图像类别下的定位性能？
• RQ3 轻量化非 DNN 模型在推理速度和模型效率方面，能在多大程度上超越基于深度学习的方法，同时保持高精度？
• RQ4 AnomalyHop 在无需领域特定微调的情况下，如何在多样化正常图像内容（如纹理、物体和结构化图案）上实现良好泛化？
• RQ5 一种数学上透明的非端到端方法是否能与复杂、黑箱的 DNN 基方法在异常定位任务中实现具有竞争力的性能？

主要发现

• AnomalyHop 在 MVTec AD 数据集上实现了 95.9% 的 ROC-AUC 得分，且在无外部训练数据的条件下位列最佳性能方法之列。
• 该方法在所有对比方法中推理速度最快，单张图像在 CPU 上仅需 0.24 秒，比 PaDiM 快 28.3 倍，比 SPADE 快 28 倍。
• 训练时间极为高效，每类仅需在标准 CPU 上运行 2 分钟，表明训练开销极低。
• 自参考型高斯模型在网格类中表现最佳，因其能有效应对旋转和光照变化；而位置感知型模型在对象类中表现最优。
• AnomalyHop 在对象类和纹理类上均表现出鲁棒性能，所有类别平均 AUC-ROC 达 95.7%，对象类达 96.7%。
• 尽管仅使用轻量化 100K 参数的特征提取器（PixelHop++），AnomalyHop 在推理速度和模型效率方面仍优于参数量更大的 DNN 模型（如 PaDiM，6000 万参数）。