[論文レビュー] RES-HD: Resilient Intelligent Fault Diagnosis Against Adversarial Attacks Using Hyper-Dimensional Computing

Onat Güngör, Tajana Rosing+1 more|arXiv (Cornell University)|Mar 14, 2022

Advanced Memory and Neural Computing被引用数 4

ひとこと要約

本稿では、ハイパーサイクルコンピューティング（HDC）に基づく故障診断システムであるRES-HDを提案する。このシステムは、最先端のディープラーニングモデルと比較して、ブラックボックス攻撃に対して最大67.5%高い耐性を示す一方で、学習速度が25.1倍速くなる。代替WDCNNモデルを用いた移譲性のある攻撃フレームワークを用いて adversarial 例を生成し、産業用IoT環境におけるHDCの頑健性と効率性を実証した。

ABSTRACT

Industrial Internet of Things (I-IoT) enables fully automated production systems by continuously monitoring devices and analyzing collected data. Machine learning methods are commonly utilized for data analytics in such systems. Cyber-attacks are a grave threat to I-IoT as they can manipulate legitimate inputs, corrupting ML predictions and causing disruptions in the production systems. Hyper-dimensional computing (HDC) is a brain-inspired machine learning method that has been shown to be sufficiently accurate while being extremely robust, fast, and energy-efficient. In this work, we use HDC for intelligent fault diagnosis against different adversarial attacks. Our black-box adversarial attacks first train a substitute model and create perturbed test instances using this trained model. These examples are then transferred to the target models. The change in the classification accuracy is measured as the difference before and after the attacks. This change measures the resiliency of a learning method. Our experiments show that HDC leads to a more resilient and lightweight learning solution than the state-of-the-art deep learning methods. HDC has up to 67.5% higher resiliency compared to the state-of-the-art methods while being up to 25.1% faster to train.

研究の動機と目的

• 産業用IoT（I-IoT）システムにおける機械学習モデルに対する敵対的攻撃の増加する脅威に対処し、予測保全や故障診断の中断を防ぐ。
• 入力の摂動に弱く、敵対的条件下で分類精度が低下するディープラーニングモデルの脆弱性を克服する。
• リソース制約のあるI-IoT環境における知能故障診断（IFD）のための軽量で耐障害性・効率性に優れた学習ソリューションを開発する。
• ブラックボックス敵対的攻撃下で、ハイパーサイクルコンピューティング（HDC）が最先端のディープラーニング手法に比べて優れた頑健性と計算効率を示すことを実証する。

提案手法

• 移譲性に基づくブラックボックス敵対的攻撃戦略を採用：敵対的例を生成するための代替ワイドディープ畳み込みニューラルネットワーク（WDCNN）を学習する。
• WDCNNを用いて摂動を加えたテストインスタンスを生成し、それらをターゲットモデル（例：LSTM、GRU、HDC）に移譲して評価する。
• HDCを用いて生のセンサデータを高次元のハイパーベクトル（HVs）に符号化し、単純なベクトル演算（加算やドット積）によって頑健なパターン認識を実現する。
• ベクトル類似度に基づく単純な学習ルールを用いてHDCモデルを学習し、バックプロパゲーションを回避することで、高速でエネルギー効率の高い学習を実現する。
• モデルの耐性を、敵対的攻撃の前後における分類精度の低下として測定し、低下が小さいほど耐性が高いと判断する。
• 2つのデータセット（CWRUベアリングデータセット、ドライブエンドおよびファンエンド構成）を用いて、HDCの性能をLSTM、GRU、CRNNなど複数のディープラーニングモデルと比較する。

実験結果

リサーチクエスチョン

• RQ1 知能故障診断におけるブラックボックス敵対的攻撃に対して、ハイパーサイクルコンピューティング（HDC）は最先端のディープラーニングモデルと比べてどの程度の耐性を示すか？
• RQ2 HDCは、I-IoT故障診断システムにおいて、耐性を維持または向上させながら、学習時間をどの程度短縮できるか？
• RQ3 代替モデルを狙う移譲性のある敵対的攻撃に対しても、HDCは高い分類精度を維持できるか？
• RQ4 異なる攻撃設定およびデータセットにおいて、HDCはディープラーニングベースライン比で平均的および最大でどの程度の耐性向上を達成できるか？

主な発見

• HDCは、ブラックボックス敵対的攻撃下で、最も優れた性能を示したディープラーニングモデル（GRU）と比較して、ファンエンドデータセットで最大67.5%高い耐性を示した。
• ドライブエンドデータセットでは、CGRUモデルと比較して最大61.9%の耐性向上を達成し、すべてのディープラーニングベースラインで平均40%以上の改善を示した。
• HDCは、最も遅いディープラーニングモデル（LSTM）と比較して、学習時間を最大25.1倍短縮した。また、最も耐性のあるディープラーニングモデル（GRU）と比較しても23倍の高速化を達成した。
• HDCは敵対的条件下でも最高の分類精度を維持し、ドライブエンドおよびファンエンドデータセットの両方で、すべてのディープラーニングモデルを上回った。
• すべてのディープラーニングモデルに対するHDCの平均耐性向上は20%以上であり、特にファンエンドでのCLSTMに対しては最高で48.3%の平均向上が観察された。
• HDCの軽量な学習と高い頑健性は、データストリームが動的でセキュリティが重要な産業用IoTシステムにおけるリアルタイムで継続的な再学習の実現に有効である。