[论文解读] Focus Your Distribution: Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization

Ye Zheng, Xiang Wang+4 more|arXiv (Cornell University)|Oct 9, 2021

Anomaly Detection Techniques and Applications参考文献 44被引用 6

一句话总结

本文提出了一种从粗到细的非对比学习框架，用于工业图像中的无监督异常检测与定位，通过像素级和特征级对齐，再结合密集非对比学习，学习紧凑且具有判别性的正常分布。该方法在MVTec AD和Shanghai Tech Campus数据集上达到最先进性能，无需使用异常样本即可检测细微、细粒度的缺陷。

ABSTRACT

The essence of unsupervised anomaly detection is to learn the compact distribution of normal samples and detect outliers as anomalies in testing. Meanwhile, the anomalies in real-world are usually subtle and fine-grained in a high-resolution image especially for industrial applications. Towards this end, we propose a novel framework for unsupervised anomaly detection and localization. Our method aims at learning dense and compact distribution from normal images with a coarse-to-fine alignment process. The coarse alignment stage standardizes the pixel-wise position of objects in both image and feature levels. The fine alignment stage then densely maximizes the similarity of features among all corresponding locations in a batch. To facilitate the learning with only normal images, we propose a new pretext task called non-contrastive learning for the fine alignment stage. Non-contrastive learning extracts robust and discriminating normal image representations without making assumptions on abnormal samples, and it thus empowers our model to generalize to various anomalous scenarios. Extensive experiments on two typical industrial datasets of MVTec AD and BenTech AD demonstrate that our framework is effective in detecting various real-world defects and achieves a new state-of-the-art in industrial unsupervised anomaly detection.

研究动机与目标

• 解决在异常样本稀少且难以标注的工业图像中检测细微、细粒度异常的挑战。
• 在不依赖合成或假设异常样本的前提下，提升正常图像表征的紧凑性与判别性。
• 设计一种自监督的掩码任务，实现正常图像间密集特征对齐，以提升异常定位能力。
• 设计一种两阶段框架——粗对齐后接细粒度非对比学习——以模拟人类视觉检查过程。
• 在基准数据集上展示对多种工业缺陷类型的泛化能力与鲁棒性。

提出的方法

• 粗对齐阶段通过空间变换在像素和特征层面标准化物体位置，对齐批量内图像的全局上下文。
• 细对齐阶段采用密集非对比学习，最大化批量内正常图像中对应空间位置的特征相似性。
• 非对比学习被表述为一种类似对比学习的目标函数，但无需负样本对，仅使用正常图像学习鲁棒且紧凑的表征。
• 该方法采用宽残差网络（WR50×2）作为主干网络，并应用颜色和空间变换等数据增强策略以提升鲁棒性。
• 利用多尺度特征金字塔的特征图捕捉多尺度表征，提升定位精度。
• 通过重建误差或特征差异计算异常分数，并生成热力图以实现像素级定位。

实验结果

研究问题

• RQ1 从粗到细的对齐策略是否能提升工业图像中细微、细粒度异常的检测性能？
• RQ2 非对比学习是否能有效学习紧凑的正常特征分布，而无需对异常模式做出任何假设？
• RQ3 所提出的方法是否能在包括纹理和物体类型在内的多种工业缺陷类别上实现良好泛化？
• RQ4 该方法在标准基准上与最先进无监督异常检测模型相比表现如何？
• RQ5 当缺陷在视觉上细微且局部化时，模型是否仍能实现高精度的异常定位？

主要发现

• 在MVTec AD数据集上，所提方法达到93.0的平均PRO分数，超过之前最先进方法（PaDiM: 92.1），并优于U-S（85.7）。
• 在Shanghai Tech Campus数据集上，方法在8个视频序列中实现97.5的像素级AUC，优于PaDiM（92.1）和U-S（85.7）。
• 在MVTec AD数据集上，纹理类别达到93.1的PRO分数，物体类别达到93.0，表明在不同缺陷类型间具有强大泛化能力。
• 消融实验表明，粗对齐与非对比学习均至关重要，任一组件的移除均导致性能显著下降。
• 可视化结果表明，即使在微小的纹理或形状失真情况下，模型仍能以高精度定位异常。
• 该方法对未见缺陷类型具有良好的泛化能力，并在多种数据增强下保持鲁棒性，证实其在真实场景中的有效性。