[论文解读] RES-HD: Resilient Intelligent Fault Diagnosis Against Adversarial Attacks Using Hyper-Dimensional Computing

Onat Güngör, Tajana Rosing+1 more|arXiv (Cornell University)|Mar 14, 2022

Advanced Memory and Neural Computing被引用 4

一句话总结

本文提出RES-HD，一种基于超维计算（HDC）的故障诊断系统，在对抗黑盒攻击方面相比最先进深度学习模型展现出高达67.5%的抗扰性提升，同时训练速度提升25.1倍。该系统采用可迁移攻击框架，通过替代WDCNN模型生成对抗性样本，验证了HDC在工业物联网环境中的鲁棒性与高效性。

ABSTRACT

Industrial Internet of Things (I-IoT) enables fully automated production systems by continuously monitoring devices and analyzing collected data. Machine learning methods are commonly utilized for data analytics in such systems. Cyber-attacks are a grave threat to I-IoT as they can manipulate legitimate inputs, corrupting ML predictions and causing disruptions in the production systems. Hyper-dimensional computing (HDC) is a brain-inspired machine learning method that has been shown to be sufficiently accurate while being extremely robust, fast, and energy-efficient. In this work, we use HDC for intelligent fault diagnosis against different adversarial attacks. Our black-box adversarial attacks first train a substitute model and create perturbed test instances using this trained model. These examples are then transferred to the target models. The change in the classification accuracy is measured as the difference before and after the attacks. This change measures the resiliency of a learning method. Our experiments show that HDC leads to a more resilient and lightweight learning solution than the state-of-the-art deep learning methods. HDC has up to 67.5% higher resiliency compared to the state-of-the-art methods while being up to 25.1% faster to train.

研究动机与目标

• 应对工业物联网（I-IoT）系统中机器学习模型日益增长的对抗攻击威胁，此类攻击可能干扰预测性维护与故障诊断。
• 克服深度学习模型对输入扰动的脆弱性，此类扰动会在对抗条件下降低分类准确率。
• 为资源受限的I-IoT环境中的智能故障诊断（IFD）开发一种轻量化、高鲁棒性且高效的机器学习解决方案。
• 证明在对抗黑盒攻击下，超维计算（HDC）相比最先进深度学习方法具备更优的鲁棒性与计算效率。

提出的方法

• 采用基于可迁移性的黑盒对抗攻击策略：训练一个替代的宽深度卷积神经网络（WDCNN）以生成对抗性样本。
• 利用WDCNN生成带有扰动的测试样本，并将其转移至目标模型（如LSTM、GRU、HDC）进行评估。
• 使用HDC将原始传感器数据编码为高维超向量（HVs），通过简单的向量运算（如加法与点积）实现鲁棒的模式识别。
• 基于向量相似性采用简单学习规则训练HDC模型，避免反向传播，实现快速、低能耗的训练。
• 将模型鲁棒性定义为对抗攻击前后分类准确率的下降幅度，下降越小表示鲁棒性越高。
• 在两个数据集（CWRU轴承数据集，驱动端与风扇端配置）上，将HDC性能与多种深度学习模型（LSTM、GRU、CRNN等）进行对比。

实验结果

研究问题

• RQ1 在智能故障诊断中，超维计算（HDC）相较于最先进深度学习模型，在对抗黑盒攻击下的鲁棒性表现如何？
• RQ2 HDC在保持或提升鲁棒性的同时，能在多大程度上缩短训练时间，适用于I-IoT故障诊断系统？
• RQ3 HDC能否在利用替代模型的可迁移对抗攻击下维持高分类准确率？
• RQ4 在不同攻击配置与数据集下，HDC相较于深度学习基线模型的平均与最大鲁棒性提升幅度是多少？

主要发现

• 在风扇端数据集上，HDC在对抗黑盒攻击下相比表现最佳的深度学习模型（GRU）展现出高达67.5%的鲁棒性提升。
• 在驱动端数据集上，HDC相比CGRU模型实现了最高61.9%的鲁棒性提升，且在所有深度学习基线模型上平均提升超过40%。
• HDC相比最慢的深度学习模型（LSTM）将训练时间缩短了25.1倍，相比最鲁棒的深度学习模型（GRU）提速23倍。
• 在对抗条件下，HDC保持了最高的分类准确率，优于驱动端与风扇端数据集上的所有深度学习模型。
• HDC在所有深度学习模型上的平均鲁棒性提升为20%或以上，其中在风扇端数据集上CLSTM模型的平均提升最高，达48.3%。
• HDC的轻量化训练与强鲁棒性使其成为工业物联网系统中实时、连续再训练的可行方案，尤其适用于数据流动态变化且安全性至关重要的场景。