[论文解读] Asymmetric Student-Teacher Networks for Industrial Anomaly Detection

Marco Rudolph, Tom Wehrbein+2 more|arXiv (Cornell University)|Oct 14, 2022

Anomaly Detection Techniques and Applications被引用 12

一句话总结

本文提出了一种用于工业异常检测的非对称学生-教师网络（AST），其中归一化流作为双射教师，全连接前馈网络作为学生。通过强制架构非对称性，AST确保异常样本产生较大的输出差异，优于对称学生-教师网络和基于似然的方法，在MVTec 3D-AD数据集上达到93.7%的AUROC，在RGB数据上达到88.0%的AUROC，性能达到当前最先进水平。

ABSTRACT

Industrial defect detection is commonly addressed with anomaly detection (AD) methods where no or only incomplete data of potentially occurring defects is available. This work discovers previously unknown problems of student-teacher approaches for AD and proposes a solution, where two neural networks are trained to produce the same output for the defect-free training examples. The core assumption of student-teacher networks is that the distance between the outputs of both networks is larger for anomalies since they are absent in training. However, previous methods suffer from the similarity of student and teacher architecture, such that the distance is undesirably small for anomalies. For this reason, we propose asymmetric student-teacher networks (AST). We train a normalizing flow for density estimation as a teacher and a conventional feed-forward network as a student to trigger large distances for anomalies: The bijectivity of the normalizing flow enforces a divergence of teacher outputs for anomalies compared to normal data. Outside the training distribution the student cannot imitate this divergence due to its fundamentally different architecture. Our AST network compensates for wrongly estimated likelihoods by a normalizing flow, which was alternatively used for anomaly detection in previous work. We show that our method produces state-of-the-art results on the two currently most relevant defect detection datasets MVTec AD and MVTec 3D-AD regarding image-level anomaly detection on RGB and 3D data.

研究动机与目标

• 为解决对称学生-教师网络在异常检测中因架构相似而产生意外泛化的问题。
• 克服基于归一化流的似然估计的局限性，该方法可能被误估，导致错误异常判定。
• 通过利用架构非对称性，放大分布外（异常）输入的输出差异，从而提升异常检测性能。
• 在2D RGB和3D深度数据及其融合任务中，展示在工业缺陷检测中的有效性。
• 证明学生-教师距离作为异常评分指标，比仅使用教师的似然更鲁棒。

提出的方法

• 教师为通过最大似然训练的归一化流，用于建模正常特征的分布，确保双射性并对外部分布偏移保持敏感。
• 学生为标准的全连接神经网络，训练目标是匹配教师在正常训练数据上的输出。
• 由于架构不匹配，异常样本会引发教师与学生之间较大的输出距离，而学生无法泛化到分布外输入。
• 训练和推理过程中使用前景掩码，以抑制背景干扰，提升对相关物体区域的关注。
• 对3D数据应用位置编码，以增强空间感知能力，提升检测性能。
• 最终的异常评分是学生与教师输出之间的L2距离，相比仅使用教师似然更鲁棒。

实验结果

研究问题

• RQ1 为何对称学生-教师网络尽管设计如此，仍无法有效检测异常？
• RQ2 学生与教师之间的架构非对称性是否能提升异常检测性能？
• RQ3 学生-教师距离是否比归一化流教师的似然更可靠的异常评分指标？
• RQ4 在所提出的AST框架下，融合RGB与3D数据如何影响异常检测性能？
• RQ5 前景掩码与位置编码对3D缺陷检测中检测性能有何影响？

主要发现

• 所提出的AST方法在MVTec 3D-AD数据集上达到93.7%的AUROC，在RGB数据上达到88.0%的AUROC，性能优于所有基线方法。
• 使用更深的学生网络可提升性能，但最佳平衡点出现在学生网络包含4个残差块时。
• 前景掩码使3D数据上的检测性能提升1.4%，因为它使模型能聚焦于相关物体区域。
• 位置编码使3D数据上的检测性能提升1.4%，且其集成带来的计算开销极低。
• 学生-教师距离比教师似然更鲁棒，因为它能补偿归一化流中被误估的似然值。
• 当结合位置编码与掩码时，AST框架在3D+RGB数据上达到93.8%的AUROC，证明其在多模态数据上的强大泛化能力。