[論文レビュー] A Deep Learning-based Framework for Conducting Stealthy Attacks in Industrial Control Systems

Cheng Feng, Tingting Li+2 more|arXiv (Cornell University)|Sep 19, 2017

Smart Grid Security and Resilience参考文献 25被引用数 34

ひとこと要約

本論文では、標的システムの詳細な事前知識が最小限であるにもかかわらず、ブラックボックス型の異常検出器を回避できるように学習する、GANベースのフレームワークを提示している。このフレームワークは、工業制御システム（ICS）に対して、低く抑えられた偽陽性率の条件下でも、90％に達するまでの成功率を達成する、高精度で隠密な攻撃を可能にする。これは、現在の異常検出メカニズムがディープラーニングを用いた隠密な攻撃に対して脆弱であることを示している。

ABSTRACT

Industrial control systems (ICS), which in many cases are components of critical national infrastructure, are increasingly being connected to other networks and the wider internet motivated by factors such as enhanced operational functionality and improved efficiency. However, set in this context, it is easy to see that the cyber attack surface of these systems is expanding, making it more important than ever that innovative solutions for securing ICS be developed and that the limitations of these solutions are well understood. The development of anomaly based intrusion detection techniques has provided capability for protecting ICS from the serious physical damage that cyber breaches are capable of delivering to them by monitoring sensor and control signals for abnormal activity. Recently, the use of so-called stealthy attacks has been demonstrated where the injection of false sensor measurements can be used to mimic normal control system signals, thereby defeating anomaly detectors whilst still delivering attack objectives. In this paper we define a deep learning-based framework which allows an attacker to conduct stealthy attacks with minimal a-priori knowledge of the target ICS. Specifically, we show that by intercepting the sensor and/or control signals in an ICS for a period of time, a malicious program is able to automatically learn to generate high-quality stealthy attacks which can achieve specific attack goals whilst bypassing a black box anomaly detector. Furthermore, we demonstrate the effectiveness of our framework for conducting stealthy attacks using two real-world ICS case studies. We contend that our results motivate greater attention on this area by the security community as we demonstrate that currently assumed barriers for the successful execution of such attacks are relaxed.

研究の動機と目的

• ICSの接続性の増加に伴い生じるサイバー物理的損傷のリスクが高まっていることに対処すること。
• 深層学習が、標的システムの動的特性やプロトコルについての最小限の事前知識でのみ、ICSに対して隠密な攻撃を可能にするかを調査すること。
• 異常検出器の挙動を学習することで、検出器を回避できる高品質な偽センサー測定値を自動生成するフレームワークを開発すること。
• 異なる検出閾値や攻撃シナリオの下で、実世界のICSデータセットを用いてフレームワークの有効性を評価すること。
• 現在の異常検出メカニズムの脆弱性を強調し、ICSに向けたより強固な、防御の多層的アプローチの開発を促すこと。

提案手法

• フレームワークは、生成器が正常なシステム動作を模倣するように学習する生成対拠的ネットワーク（GAN）を採用している。
• 生成器は、異常検出器の内部モデルに基づいて、予測値と実際のセンサー値との差を最小化するリーマン誤差損失関数を用いて訓練される。
• 識別器は、本物のセンサーデータと生成された偽データを区別するように訓練され、同時に生成器は検出可能なずれを最小限に抑えることで、検出器をだますように学習する。
• 攻撃プロセスは適応的である。フレームワークは、異常検出器の予測に対する残留誤差が低くなるように、注入される偽測定値の大きさを動的に調整する。
• 本手法はブラックボックス仮定に基づく。訓練段階では、標的システムの詳細なモデルは必要とせず、センサーと制御信号の傍受のみが必要である。
• フレームワークは、SWaTとWADIの2つの実世界ICSデータセットを用いて評価され、閾値ベースおよびCUSUMベースの異常検出器に対する攻撃成功率が測定された。

実験結果

リサーチクエスチョン

• RQ1 深層学習ベースのフレームワークは、標的システムの動的特性やプロトコルについての最小限の事前知識でのみ、ICSに対して隠密な攻撃を生成できるか？
• RQ2 GANベースの生成器は、残留誤差を最小化することで、ブラックボックス型異常検出システムをどれほど効果的に回避できるか？
• RQ3 異なる種類の異常検出器、特に閾値ベースおよびCUSUMベースのモデルに対して、偽陽性率が変化する条件下で、このフレームワークの効果性はどの程度か？
• RQ4 PLC-センサーのチャンネルのみにアクセスできる部分的なシステム知識がある場合、隠密攻撃の成功率にどのような影響が生じるか？
• RQ5 注入される測定値のずれの大きさを制御できるというフレームワークの能力が、攻撃の隠密性と成功確率に与える影響は何か？

主な発見

• すべてのPLC-センサーのチャンネルが侵害された状態で、CUSUMベースの異常検出器を90％の成功率で回避できた。これは、1時間に1回の偽陽性間隔が想定される条件下でも同様に成立した。
• 偽陽性率が0.01（100分の1）の条件下でも、攻撃成功率は約40％を維持しており、検出に対する高い耐性があることが示された。
• 偽陽性間隔が3分の条件下でも、攻撃成功率は約20％を維持しており、実用的な検出設定下でも顕著な隠密性を示した。
• フレームワークは、本物のセンサー測定データと類似した高品質な偽測定値を効果的に生成できており、これにより現在の異常検出システムでは検出が極めて困難であることが明らかになった。
• 部分的なシステム知識（PLC-AIT202およびPLC-AIT203のチャンネルのみの侵害）の下でも、CUSUM検出の下で80％の成功率を達成しており、本手法の有効性が裏付けられた。
• 結果から、現在の異常検出メカニズムの信頼性が過大評価されており、ディープラーニングを用いた隠密攻撃がICSのセキュリティに対して現実的な脅威であることが示された。