[论文解读] Attention Modules Improve Image-Level Anomaly Detection for Industrial Inspection: A DifferNet Case Study

André Luiz Buarque Vieira-e-Silva, Francisco Simões+4 more|arXiv (Cornell University)|Nov 5, 2023

Industrial Vision Systems and Defect Detection被引用 4

一句话总结

本文提出 AttentDifferNet，一种注意力增强的 DifferNet 异常检测模型变体，通过将通道注意力和空间注意力模块整合到特征提取器中，提升了工业检测中的图像级异常检测性能。在 in-the-wild 的 InsPLAD-fault 数据集上，其平均 AUROC 相较于 DifferNet 提升了 1.77±0.25 个百分点，达到当前最先进水平。

ABSTRACT

Within (semi-)automated visual industrial inspection, learning-based approaches for assessing visual defects, including deep neural networks, enable the processing of otherwise small defect patterns in pixel size on high-resolution imagery. The emergence of these often rarely occurring defect patterns explains the general need for labeled data corpora. To alleviate this issue and advance the current state of the art in unsupervised visual inspection, this work proposes a DifferNet-based solution enhanced with attention modules: AttentDifferNet. It improves image-level detection and classification capabilities on three visual anomaly detection datasets for industrial inspection: InsPLAD-fault, MVTec AD, and Semiconductor Wafer. In comparison to the state of the art, AttentDifferNet achieves improved results, which are, in turn, highlighted throughout our quali-quantitative study. Our quantitative evaluation shows an average improvement - compared to DifferNet - of 1.77 +/- 0.25 percentage points in overall AUROC considering all three datasets, reaching SOTA results in InsPLAD-fault, an industrial inspection in-the-wild dataset. As our variants to AttentDifferNet show great prospects in the context of currently investigated approaches, a baseline is formulated, emphasizing the importance of attention for industrial anomaly detection both in the wild and in controlled environments.

研究动机与目标

• 通过推进无监督异常检测方法，解决工业视觉检测中缺陷标注数据有限的挑战。
• 提升当前最先进异常检测模型在光照、尺度和背景变化较大的非受控、in-the-wild 工业检测场景中的性能。
• 探究注意力机制是否能够增强基于归一化流的异常检测模型（如 DifferNet）的特征表示能力。
• 通过在多样化工业数据集上持续提升性能，建立注意力增强型无监督异常检测的新基线。

提出的方法

• 将通道注意力和空间注意力模块（具体为 SENet 模块）集成到 DifferNet 的主干特征提取器中，以优化特征表示。
• 利用归一化流建模正常样本的潜在分布，基于似然估计实现异常评分。
• 应用 Grad-CAM 可视化并分析注意力驱动的特征激活模式，对比注意力增强模型与基线模型的差异。
• 在三个数据集上训练并评估 AttentDifferNet：InsPLAD-fault（in-the-wild）、MVTec AD（受控）和 Semiconductor Wafer（受控），以 AUROC 为主要评估指标。
• 通过系统性地移除注意力模块（AB1、AB2、AB3）进行消融研究，评估其对性能的独立与联合影响。
• 将 AttentDifferNet 与标准 DifferNet、FastFlow 和 RD++ 进行比较，评估注意力集成方法的泛化能力。

实验结果

研究问题

• RQ1 注意力模块是否能提升 DifferNet 在工业检测中图像级异常检测的性能，尤其是在非受控、in-the-wild 环境下？
• RQ2 注意力机制的集成如何影响基于归一化流模型的特征表示与异常定位能力？
• RQ3 AttentDifferNet 是否在代表真实工业检测挑战的 InsPLAD-fault 数据集上达到最先进性能？
• RQ4 注意力模块的放置位置与配置对模型性能有何影响，特别是在 AUROC 提升方面？
• RQ5 注意力增强方法是否具有泛化能力，能够提升其他当前最先进无监督异常检测方法？

主要发现

• 在 InsPLAD-fault、MVTec AD 和 Semiconductor Wafer 三个数据集上，AttentDifferNet 相较于 DifferNet 实现了 1.77±0.25 个百分点的平均 AUROC 提升。
• 在 InsPLAD-fault 数据集上，AttentDifferNet 达到最先进性能，在 in-the-wild 工业检测设置中优于现有方法。
• 消融研究显示，同时使用全部三个注意力模块（AB1、AB2、AB3）在 Glass Insulator 类别上获得最高 AUROC（86.57%），显著优于基线 DifferNet（82.81%）。
• 位于深层的注意力模块（如 AB3）对性能影响更大，表明更深层次的特征优化更具有效性。
• 基于 Grad-CAM 的定性分析表明，AttentDifferNet 在 in-the-wild 场景中能更精确地聚焦于目标对象，在受控环境中则更准确地定位缺陷本身。
• FastFlow 和 RD++ 的注意力增强版本也表现出一致的性能提升，表明该方法具有超越 DifferNet 的泛化能力。