[论文解读] Crafting Adversarial Examples for Deep Learning Based Prognostics (Extended Version)

Gautam Raj Mode, Khaza Anuarul Hoque|arXiv (Cornell University)|Sep 21, 2020

Adversarial Robustness in Machine Learning被引用 6

一句话总结

本文将对抗性攻击引入工业系统中的基于深度学习的剩余使用寿命（RUL）预测，利用FGSM和BIM在传感器数据上生成扰动，严重降低了LSTM、GRU和CNN模型的RUL估计性能。结果表明，即使微小且难以察觉的扰动，也能导致剩余使用寿命预测出现显著误差，其中BIM展现出更强的攻击效果，且对抗性样本在不同模型间具有高度可迁移性。

ABSTRACT

In manufacturing, unexpected failures are considered a primary operational risk, as they can hinder productivity and can incur huge losses. State-of-the-art Prognostics and Health Management (PHM) systems incorporate Deep Learning (DL) algorithms and Internet of Things (IoT) devices to ascertain the health status of equipment, and thus reduce the downtime, maintenance cost and increase the productivity. Unfortunately, IoT sensors and DL algorithms, both are vulnerable to cyber attacks, and hence pose a significant threat to PHM systems. In this paper, we adopt the adversarial example crafting techniques from the computer vision domain and apply them to the PHM domain. Specifically, we craft adversarial examples using the Fast Gradient Sign Method (FGSM) and Basic Iterative Method (BIM) and apply them on the Long Short-Term Memory (LSTM), Gated Recurrent Unit (GRU), and Convolutional Neural Network (CNN) based PHM models. We evaluate the impact of adversarial attacks using NASA's turbofan engine dataset. The obtained results show that all the evaluated PHM models are vulnerable to adversarial attacks and can cause a serious defect in the remaining useful life estimation. The obtained results also show that the crafted adversarial examples are highly transferable and may cause significant damages to PHM systems.

研究动机与目标

• 研究深度学习驱动的剩余寿命预测模型在故障预测与健康管理（PHM）系统中对对抗性攻击的脆弱性。
• 将计算机视觉领域中对抗性样本生成技术——特别是FGSM和BIM——适配至PHM领域，基于真实传感器数据进行实验。
• 评估对抗性扰动对多种深度学习架构（LSTM、GRU、CNN）在RUL估计准确性方面的影响。
• 分析对抗性样本在不同PHM模型之间的可迁移性，模拟黑盒攻击场景。
• 揭示对抗性攻击在工业物联网及深度学习系统中带来的关键安全风险，尤其是在关键安全应用中。

提出的方法

• 采用快速梯度符号法（FGSM）通过基于损失函数梯度的微小、定向扰动，在输入传感器数据上生成对抗性样本。
• 应用基础迭代法（BIM），通过多次迭代施加更小的扰动，相比FGSM提升了攻击成功率与鲁棒性。
• 在NASA的C-MAPSS涡轮风扇发动机数据集上，对LSTM、GRU和CNN三种深度学习模型进行训练与评估，实现分段RUL预测。
• 使用RMSE指标定量评估对抗性攻击后RUL预测性能的退化程度。
• 通过在一种模型上生成对抗性样本并应用于其他未访问其架构或参数的目标模型，评估其可迁移性。
• 通过改变扰动幅度（ε）进行消融研究，评估其对攻击效果及模型性能退化的影响。

实验结果

研究问题

• RQ1 使用FGSM和BIM技术生成的对抗性样本是否能显著降低基于深度学习的PHM模型在RUL预测中的准确性？
• RQ2 在不同深度学习架构（LSTM、GRU、CNN）中，FGSM与BIM攻击在RMSE退化方面的性能表现如何比较？
• RQ3 对抗性样本在不同PHM模型之间的可迁移性程度如何，特别是在黑盒攻击场景下？
• RQ4 扰动幅度（ε）如何影响对抗性攻击中RUL预测误差的严重程度？
• RQ5 PHM系统中是否存在特定模型的脆弱性？哪些架构对对抗性扰动最为敏感？

主要发现

• BIM攻击在ε = 1.2时导致的RMSE显著高于FGSM（53.67 vs. 32.63），表明其在GRU模型上具有更优的攻击效果。
• 为CNN模型生成的对抗性样本表现出最高的可迁移性，当其被转移到GRU模型时，RMSE几乎翻倍（24.12 vs. 12.23）。
• GRU模型在攻击下表现出欺骗性行为，在BIM攻击下对长达129个时间周期的RUL估计几乎保持恒定，可能导致危险的维护延迟。
• 所有评估的PHM模型（LSTM、GRU、CNN）均易受对抗性攻击影响，即使微小扰动也会导致RUL估计准确性的显著下降。
• 对抗性样本在不同模型间的可迁移性始终较高，表明攻击者可利用在替代模型上生成的样本成功攻击未知模型。
• 本研究证实，基于深度学习的PHM系统极易受到对抗性攻击，对工业安全与运行连续性构成严重威胁。