[论文解读] RealNet: A Feature Selection Network with Realistic Synthetic Anomaly for Anomaly Detection

Ximiao Zhang, Min Xu+1 more|arXiv (Cornell University)|Mar 9, 2024

Anomaly Detection Techniques and Applications被引用 4

一句话总结

RealNet 提出了一种自监督异常检测框架，结合了强度可控的基于扩散的异常合成（SDAS）、自适应特征选择（AFS）和重建残差选择（RRS），在提升检测性能的同时降低计算成本。该方法在无需数据集特定调优的情况下实现了最先进（SOTA）的性能，包括在 MVTec-AD 上达到 96.3% 的图像 AUROC，在 VisA 上达到 97.8%，优于先前的方法。

ABSTRACT

Self-supervised feature reconstruction methods have shown promising advances in industrial image anomaly detection and localization. Despite this progress, these methods still face challenges in synthesizing realistic and diverse anomaly samples, as well as addressing the feature redundancy and pre-training bias of pre-trained feature. In this work, we introduce RealNet, a feature reconstruction network with realistic synthetic anomaly and adaptive feature selection. It is incorporated with three key innovations: First, we propose Strength-controllable Diffusion Anomaly Synthesis (SDAS), a diffusion process-based synthesis strategy capable of generating samples with varying anomaly strengths that mimic the distribution of real anomalous samples. Second, we develop Anomaly-aware Features Selection (AFS), a method for selecting representative and discriminative pre-trained feature subsets to improve anomaly detection performance while controlling computational costs. Third, we introduce Reconstruction Residuals Selection (RRS), a strategy that adaptively selects discriminative residuals for comprehensive identification of anomalous regions across multiple levels of granularity. We assess RealNet on four benchmark datasets, and our results demonstrate significant improvements in both Image AUROC and Pixel AUROC compared to the current state-o-the-art methods. The code, data, and models are available at https://github.com/cnulab/RealNet.

研究动机与目标

• 为解决现有自监督异常检测方法在生成逼真且多样化的合成异常方面的局限性。
• 减少大规模预训练模型在异常检测中使用的特征冗余和预训练偏差。
• 通过跨多尺度自适应选择具有判别性的重建残差，提升检测性能和召回率。
• 开发一个统一且灵活的框架，在保持高检测精度的同时优化计算成本。
• 为未来自监督异常检测研究提供一个新的基准合成数据集（SIA）。

提出的方法

• 提出强度可控的扩散异常合成（SDAS），一种基于扩散的方法，通过在低密度区域扰动正常样本，生成具有可控强度的合成异常。
• 提出异常感知特征选择（AFS），一种方法，可为每类异常自适应选择最优的预训练特征子集，以增强判别性并减少冗余。
• 开发重建残差选择（RRS），通过自适应过滤多层级特征中的非判别性残差，提升定位精度。
• 采用多尺度重建框架，利用预训练卷积神经网络（CNN）多个层级的特征，基于异常相关性进行残差选择。
• 使用判别器基于所选重建残差对异常进行评分，实现端到端训练，且超参数调优极少。
• 引入保留率 $P = r / \sum_{k=1}^{K} m_k$ 以控制保留的残差比例，其中 Max & Avg 模式表现出更优的鲁棒性。

实验结果

研究问题

• RQ1 基于扩散的合成能否生成更贴近真实世界异常分布的逼真且多样的合成异常？
• RQ2 如何自适应地选择预训练特征，以在最小化计算成本的同时提升检测性能？
• RQ3 对重建残差进行自适应选择是否能提升不同异常尺度下的检测召回率和定位精度？
• RQ4 统一框架能否在无需数据集特定调优的情况下，在多个基准上实现最先进性能？
• RQ5 合成异常的强度如何影响最终模型的泛化能力和鲁棒性？

主要发现

• 在 MVTec-AD 上，RealNet 实现了 96.3% 的图像 AUROC，较之前最先进方法（CFlow）高出 10.2%，且无需任何数据集特定调优。
• 在 VisA 数据集上，RealNet 实现了 97.8% 的图像 AUROC 和 98.8% 的像素 AUROC，展现出在复杂、多目标异常上的强大泛化能力。
• 在 BTAD 上，RealNet 实现了 96.1% 的图像 AUROC 和 97.9% 的像素 AUROC，表明其在多样化工业数据集上的一致高性能表现。
• RRS 的 Max & Avg 模式在鲁棒性和性能上表现最佳，通过有效过滤非判别性残差，优于单独使用 Max 或 Avg。
• 消融实验表明，AFS 显著优于随机特征选择方法（如 RDR 和 RLPR），凸显其在特征子集选择中的有效性。
• SDAS 中最优的异常强度 $s$ 位于特定范围内——过低导致误报，过高则引起分布偏移，而对 $s$ 进行均匀采样可获得最鲁棒的结果。