[论文解读] ReConPatch : Contrastive Patch Representation Learning for Industrial Anomaly Detection

Jeeho Hyun, SangYun Kim+4 more|arXiv (Cornell University)|May 26, 2023

Anomaly Detection Techniques and Applications被引用 5

一句话总结

ReConPatch 提出了一种用于工业异常检测的对比 patch 表示学习方法，通过利用成对相似性和上下文相似性生成的伪标签来增强特征判别能力，在无需输入增强的情况下于 MVTec AD 数据集上实现了最先进性能（99.72% AUROC），并在 BTAD 上达到 95.8% AUROC。

ABSTRACT

Anomaly detection is crucial to the advanced identification of product defects such as incorrect parts, misaligned components, and damages in industrial manufacturing. Due to the rare observations and unknown types of defects, anomaly detection is considered to be challenging in machine learning. To overcome this difficulty, recent approaches utilize the common visual representations pre-trained from natural image datasets and distill the relevant features. However, existing approaches still have the discrepancy between the pre-trained feature and the target data, or require the input augmentation which should be carefully designed, particularly for the industrial dataset. In this paper, we introduce ReConPatch, which constructs discriminative features for anomaly detection by training a linear modulation of patch features extracted from the pre-trained model. ReConPatch employs contrastive representation learning to collect and distribute features in a way that produces a target-oriented and easily separable representation. To address the absence of labeled pairs for the contrastive learning, we utilize two similarity measures between data representations, pairwise and contextual similarities, as pseudo-labels. Our method achieves the state-of-the-art anomaly detection performance (99.72%) for the widely used and challenging MVTec AD dataset. Additionally, we achieved a state-of-the-art anomaly detection performance (95.8%) for the BTAD dataset.

研究动机与目标

• 解决自然图像预训练特征与工业缺陷数据之间的领域偏移问题。
• 克服现有方法依赖手工设计数据增强进行对比学习的局限性。
• 通过学习目标导向的表示空间，提升对细微异常的特征判别能力。
• 在无需大量超参数调优或输入变换的情况下，实现有效的异常检测与分割。

提出的方法

• 使用预训练的 CNN 从输入图像中提取 patch 级特征。
• 应用可学习的线性变换，将 patch 特征重新配置到更具判别性的空间。
• 采用松弛对比损失（$\mathcal{L}_{RC}$）利用伪标签优化特征表示。
• 通过两种相似性度量生成伪标签：特征之间的成对相似性和上下文相似性。
• 利用上下文相似性隐式编码位置信息，提升局部特征对齐。
• 仅训练线性头，保留预训练主干网络，实现高效适应。

实验结果

研究问题

• RQ1 在无标签异常对的情况下，对比学习能否有效应用于工业异常检测？
• RQ2 从特征相似性中衍生出的伪标签在低数据场景下如何改善表示学习？
• RQ3 仅通过简单线性头微调预训练特征，能否在无需数据增强的情况下实现更优的异常检测性能？
• RQ4 引入上下文相似性在多大程度上提升了异常定位的特征判别能力？
• RQ5 ReConPatch 在 MVTec AD 和 BTAD 等基准数据集上是否优于最先进方法？

主要发现

• ReConPatch 在 MVTec AD 数据集上使用 480×480 输入尺寸，实现了最先进图像级 AUROC（99.72%）。
• 在 MVTec AD 上，该方法在异常分割 AUROC 上优于 PatchCore（98.36% vs. 97.5%），提升 0.86%。
• 在 BTAD 数据集上，ReConPatch 实现了 95.8% 的图像级异常检测 AUROC 和 97.5% 的像素级分割 AUROC。
• 通过 UMAP 可视化证实，ReConPatch 学习到了更紧凑且可分的特征空间，正常样本聚类紧密，异常样本被有效分离。
• 该模型在各类别中表现稳健，包括金属螺母和皮革等具有挑战性的类别，即使在噪声图中也能实现精确的异常定位。
• d' 判别性指数确认了正常与异常得分分布之间分离程度的提升，表明度量学习效果更优。