[论文解读] An Encoder-Decoder Based Approach for Anomaly Detection with Application in Additive Manufacturing

Baihong Jin, Yingshui Tan+5 more|arXiv (Cornell University)|Jul 26, 2019

Anomaly Detection Techniques and Applications参考文献 22被引用 7

一句话总结

本文提出了一种无监督的编码器-解码器深度学习模型，用于利用红外传感器数据检测增材制造中的异常。通过联合最小化序列热成像的重建误差和回归误差，该模型在无需标注数据的情况下检测异常——尤其是温度非均匀性——在高偏差层上实现了 AUC > 0.97 的性能，并优于非学习基线方法。

ABSTRACT

We present a novel unsupervised deep learning approach that utilizes the encoder-decoder architecture for detecting anomalies in sequential sensor data collected during industrial manufacturing. Our approach is designed not only to detect whether there exists an anomaly at a given time step, but also to predict what will happen next in the (sequential) process. We demonstrate our approach on a dataset collected from a real-world testbed. The dataset contains images collected under both normal conditions and synthetic anomalies. We show that the encoder-decoder model is able to identify the injected anomalies in a modern manufacturing process in an unsupervised fashion. In addition, it also gives hints about the temperature non-uniformity of the testbed during manufacturing, which is what we are not aware of before doing the experiment.

研究动机与目标

• 开发一种无监督深度学习方法，仅使用正常训练数据检测工业制造过程中的异常。
• 不仅实现异常检测，还提供对序列传感器数据中异常演进过程的预测性洞察。
• 通过无监督分析红外图像，识别增材制造试验平台中此前未被发现的温度非均匀性。
• 评估模型在真实增材制造工艺数据中注入合成异常情况下的性能，尤其关注激光功率偏差变化的情况。
• 将所提方法与基于均方根温度作为异常评分的简单非学习基线方法进行比较。

提出的方法

• 该模型采用基于自编码器的编码器-解码器架构，从序列热成像数据中重建输入红外图像。
• 异常评分计算为重建误差（输入图像与重建图像之间的均方误差）和回归误差（预测下一帧图像与实际下一帧图像之间的均方误差）的加权和。
• 损失函数将两种误差以相等权重（λ = 1）结合，并在 500 个周期内进行最小化训练。
• 采用 20 点窗口的去趋势技术，以分离异常评分中的尖峰，从而增强对瞬态异常的检测能力。
• 应用空间范围限定作为误差度量，以改善异常区域的定位，尤其在温度梯度较高的区域。
• 采用基于阈值的检测方法，利用正常层中的最大逐行回归评分，以避免误报，实现二元异常分类。

实验结果

研究问题

• RQ1 无监督的编码器-解码器模型能否在无需标注异常数据的情况下，检测真实增材制造过程中注入的合成异常？
• RQ2 模型的联合重建与回归损失是否相比基于温度的简单基线方法提供更优的异常检测性能？
• RQ3 该模型能否揭示通过标准度量无法直接观测到的过程不稳定性，例如温度非均匀性？
• RQ4 模型性能如何随注入异常中激光功率偏差幅度的变化而变化？
• RQ5 该模型能否基于异常评分模式区分不同类型的异常，例如尖峰（瞬态）与大突起（持续热梯度）？

主要发现

• 该模型成功以无监督方式检测到注入的异常，在 A1 层实现 AUC 0.976，在 A2 层实现 AUC 0.972，这两个层的激光功率偏差最大。
• 在 A1 和 A2 层，精确率与召回率均超过 90%，但在 A4 和 A5 层显著下降至低于 70%，原因在于激光功率偏差较小且热影响减弱。
• 在 A5 层，AUC 下降至 0.776，表明对低幅度异常的可检测性降低，尤其是仅持续一个扫描线的异常。
• 该模型识别出粉末床中此前未知的温度非均匀性，特别是在温度高出 2°C 且梯度陡峭的区域。
• 空间范围限定技术有效凸显了与物理热扰动高度相关的大型异常评分，从而改善了异常区域的定位。
• 与基于均方根温度的非学习基线相比，编码器-解码器方法在所有异常层上均表现出更优的 ROC 曲线，性能显著更优。