[论文解读] TrustMAE: A Noise-Resilient Defect Classification Framework using Memory-Augmented Auto-Encoders with Trust Regions

Daniel Stanley Tan, Yi-Chun Chen+2 more|arXiv (Cornell University)|Dec 29, 2020

Industrial Vision Systems and Defect Detection参考文献 41被引用 4

一句话总结

TrustMAE 是一种抗噪声的无监督缺陷分类框架，采用稀疏内存寻址和基于信任区域的内存更新机制的内存增强自编码器，通过感知距离检测缺陷并重建无缺陷图像。即使在训练数据中包含高达40%的噪声（有缺陷）图像时，该方法仍能保持鲁棒性能，在干净和噪声设置下均优于最先进基线方法。

ABSTRACT

In this paper, we propose a framework called TrustMAE to address the problem of product defect classification. Instead of relying on defective images that are difficult to collect and laborious to label, our framework can accept datasets with unlabeled images. Moreover, unlike most anomaly detection methods, our approach is robust against noises, or defective images, in the training dataset. Our framework uses a memory-augmented auto-encoder with a sparse memory addressing scheme to avoid over-generalizing the auto-encoder, and a novel trust-region memory updating scheme to keep the noises away from the memory slots. The result is a framework that can reconstruct defect-free images and identify the defective regions using a perceptual distance network. When compared against various state-of-the-art baselines, our approach performs competitively under noise-free MVTec datasets. More importantly, it remains effective at a noise level up to 40% while significantly outperforming other baselines.

研究动机与目标

• 解决产品缺陷分类训练数据集中缺陷图像污染的问题。
• 在无需完全标注缺陷标签的情况下实现有效的缺陷检测。
• 提高模型对噪声训练数据的鲁棒性，包括错误包含在训练集中的有缺陷图像。
• 开发一种可同时利用正常图像和有缺陷图像中的正常图像块以提升数据效率的框架。
• 在传统重建方法失效的纹理复杂表面保持高检测精度。

提出的方法

• 采用内存增强自编码器，利用内存库中存储的正常特征重建输入图像。
• 使用稀疏内存寻址方案，仅对少数关键内存槽进行更新，减少过拟合。
• 引入基于信任区域的内存更新机制，对缺陷潜在特征进行分类并排除其存入内存。
• 应用感知距离网络，利用深度特征计算输入图像与重建图像之间的逐块差异。
• 基于深度特征嵌入使用空间感知距离度量，在高纹理区域检测缺陷。
• 通过重建损失和感知损失端到端训练模型，利用信任区域约束实现抗噪声能力。

实验结果

研究问题

• RQ1 当在包含高达40%有缺陷图像的数据集上进行训练时，缺陷检测框架是否能保持高性能？
• RQ2 稀疏内存寻址如何改善泛化能力并减少训练数据中对缺陷的过拟合？
• RQ3 信任区域内存更新机制在多大程度上防止缺陷特征污染内存槽？
• RQ4 与像素级重建误差相比，感知距离在纹理表面上检测缺陷的效率如何？
• RQ5 在多种产品类别中实现鲁棒缺陷检测的最优信任阈值和下采样层数配置是什么？

主要发现

• 在无噪声条件下，TrustMAE 在 MVTec 数据集上表现优异，优于多个最先进基线方法。
• 当训练集中有高达40%的有缺陷图像时，该框架仍保持强劲性能，显著优于其他方法在高噪声水平下的表现。
• 消融研究证实，稀疏内存寻址可减少过拟合，限制缺陷特征向内存槽的传播。
• 信任区域更新机制提升了模型鲁棒性，最优性能出现在 δ₂ = [15, 40] 范围内，在30%噪声下达到约88% AUC。
• 减少下采样层数可提升对细粒度类别的性能（如网格、螺钉、药丸、胶囊），因其能更好地保留局部特征变化。
• 移除信任阈值 δ₂ 会导致模型不稳定，因特征向量被推向无穷远，证实其对训练稳定性的必要性。