[论文解读] SoftPatch: Unsupervised Anomaly Detection with Noisy Data

Xi Jiang, Huiling Chen+7 more|arXiv (Cornell University)|Mar 21, 2024

Anomaly Detection Techniques and Applications被引用 36

一句话总结

SoftPatch 引入 patch-level denoising 与 noise discriminators，以及一个 soft-weighted memory bank，在训练数据带噪时稳健地执行无监督异常检测，在 MVTecAD 和 BTAD 的嘈杂设置下达到 SOTA。

ABSTRACT

Although mainstream unsupervised anomaly detection (AD) algorithms perform well in academic datasets, their performance is limited in practical application due to the ideal experimental setting of clean training data. Training with noisy data is an inevitable problem in real-world anomaly detection but is seldom discussed. This paper considers label-level noise in image sensory anomaly detection for the first time. To solve this problem, we proposed a memory-based unsupervised AD method, SoftPatch, which efficiently denoises the data at the patch level. Noise discriminators are utilized to generate outlier scores for patch-level noise elimination before coreset construction. The scores are then stored in the memory bank to soften the anomaly detection boundary. Compared with existing methods, SoftPatch maintains a strong modeling ability of normal data and alleviates the overconfidence problem in coreset. Comprehensive experiments in various noise scenes demonstrate that SoftPatch outperforms the state-of-the-art AD methods on the MVTecAD and BTAD benchmarks and is comparable to those methods under the setting without noise.

研究动机与目标

• 突出在图像感知任务的无监督异常检测中，嘈杂训练数据的现实挑战。
• 提出一种 patch-level denoising 策略，在核心集构建之前过滤噪声补丁。
• 引入三种噪声判别器，鲁棒地识别噪声补丁并对核心集样本进行软加权。
• 表明内存增强的 SoftPatch 框架提高了鲁棒性并保持对正常数据的强建模能力。
• 在 MVTecAD 和 BTAD 上给出在嘈杂条件下性能改进的实证证据。

提出的方法

• 在进行 coreset 采样之前，使用 patch-level 噪声判别器为每个补丁分配一个离群分数。
• 按空间位置对特征分组，并移除具有最高噪声分数的前 tau 百分比补丁，以形成去噪后的核心集。
• 探索三种噪声评分方法：最近邻（Nearest Neighbor）、多元高斯（Mahalanobis 距离）和局部异常因子（LOF），LOF 性能最好。
• 将去噪后的核心集及相应的按补丁的离群权重存储在内存库中，以在推理阶段进行软重加权。
• 通过对内存库进行最近邻搜索并用软权重对补丁级距离进行加权来计算图像级异常分数；取最大补丁分数作为图像分数。
• 可选地采用与 PatchCore 基线一致的不同 backbone 和核心集采样比率；保持恒定阈值 tau 和 LOF 参数 k 以增强鲁棒性。

实验结果

研究问题

• RQ1 带噪声数据的训练如何影响无监督的图像感知异常检测？
• RQ2 patch-level denoising 是否能够在标签级噪声下提高内存增强异常检测器的鲁棒性？
• RQ3 噪声判别器和软重加权是否能缓解由噪声训练样本引起的过度自信和误分类？
• RQ4 在训练数据存在噪声时，SoftPatch 与标准基线方法在常规基准上的表现如何？
• RQ5 在此设置下，哪种 patch-level 噪声评分策略最有效？

主要发现

• SoftPatch 在 MVTecAD 上在 No Overlap 和 Overlap 噪声设置下均表现出比 SOTA 方法更强的对嘈杂训练数据的鲁棒性。
• SoftPatch-LOF 实现了最佳的整体性能，在不同噪声情景下平衡鲁棒性和容量。
• 基于高斯的建模有助于去噪，但基于 LOF 的补丁级判别在嘈杂情景下提供了最佳性能。
• 即使训练数据包含噪声，SoftPatch 在 BTAD 上也保持领先表现，并且能处理外观相似的缺陷。
• 随着噪声比的增加，PatchCore 的性能下降速度比 SoftPatch 快，体现了 patch-level 去噪和重加权的鲁棒性。