[論文レビュー] The Threat of Adversarial Attacks on Machine Learning in Network Security -- A Survey

Olakunle Ibitoye, Rana Abou-Khamis+3 more|arXiv (Cornell University)|Nov 6, 2019

Network Security and Intrusion Detection被引用数 45

ひとこと要約

この調査はネットワークセキュリティにおける敵対的攻撃を分類し、敵対的リスクのリスクグリッドマップを導入し、MLベースのネットワークセキュリティ攻撃に対する防御を分析します。問題空間と特徴空間の区別と、ネットワークセキュリティアプリケーションに合わせた分類体系を強調します。

ABSTRACT

Machine learning models have made many decision support systems to be faster, more accurate, and more efficient. However, applications of machine learning in network security face a more disproportionate threat of active adversarial attacks compared to other domains. This is because machine learning applications in network security such as malware detection, intrusion detection, and spam filtering are by themselves adversarial in nature. In what could be considered an arm's race between attackers and defenders, adversaries constantly probe machine learning systems with inputs that are explicitly designed to bypass the system and induce a wrong prediction. In this survey, we first provide a taxonomy of machine learning techniques, tasks, and depth. We then introduce a classification of machine learning in network security applications. Next, we examine various adversarial attacks against machine learning in network security and introduce two classification approaches for adversarial attacks in network security. First, we classify adversarial attacks in network security based on a taxonomy of network security applications. Secondly, we categorize adversarial attacks in network security into a problem space vs feature space dimensional classification model. We then analyze the various defenses against adversarial attacks on machine learning-based network security applications. We conclude by introducing an adversarial risk grid map and evaluating several existing adversarial attacks against machine learning in network security using the risk grid map. We also identify where each attack classification resides within the adversarial risk grid map.

研究の動機と目的

• ネットワークセキュリティの文脈における機械学習技術、タスク、深さの分類体系を提案する。
• ネットワークセキュリティにおけるMLアプリケーションを分類し、これらのアプリケーションに対する敵対的攻撃を対応付ける。
• ネットワークセキュリティにおける敵対的攻撃の問題空間 vs. 特徴空間の次元分類を導入する。
• 敵対的リスクフレームワークとグリッドマップを定義・適用し、攻撃シナリオを評価する。
• MLベースのネットワークセキュリティにおける敵対的攻撃に対する防御をレビューし、ギャップと今後の方向性を特定する。

提案手法

• ネットワークセキュリティのMLアプリケーションを整理する基盤として、学習タスク、手法、深さの3次元ML分類を提供する。
• ネットワークセキュリティアプリケーションに基づく敵対的攻撃の分類学を構築し、問題空間 vs. 特徴空間の分類を導入する。
• 攻撃の可能性と重大性を評価するための敵対的リスクグリッドマップを導入し、このマップ内で攻撃を分類する。
• 従来研究で提案された敵対的攻撃手法と防御を統合し、ネットワークセキュリティに焦点を当てる。
• ネットワークセキュリティの文脈で、攻撃者の知識モデル（白箱/灰箱/黒箱）と攻撃戦略（回避、poisoning、oracle）を比較する。

実験結果

リサーチクエスチョン

• RQ1 MLベースのネットワークセキュリティアプリケーションに特化して、敵対的攻撃をどのように分類できるか？
• RQ2 ネットワークセキュリティにおける問題空間と特徴空間の区別が敵対的攻撃設計に与える影響は何か？
• RQ3 MLベースのネットワークセキュリティシステムに対する攻撃の発生可能性と重大性を敵対的リスクグリッドマップはどのように定量化できるか？
• RQ4 ネットワークセキュリティのMLにおける敵対的攻撃に対する防御は何が存在し、ギャップはどこにあるか？
• RQ5 提案された敵対的リスクフレームワークの中で、異なる攻撃分類はどこに位置するか？

主な発見

• ネットワークセキュリティアプリケーションに合わせた新しい敵対的攻撃分類学を導入する。
• ネットワークセキュリティにおける敵対的攻撃の問題空間 vs. 特徴空間の次元分類を提案する。
• セキュリティタスク全体で攻撃発生可能性と影響を評価する敵対的リスクグリッドマップを導入する。
• ネットワークセキュリティの文脈で既存の敵対的攻撃と防御をレビュー・分類する。
• MLベースのネットワークセキュリティにおける攻撃者と防御者の軍拡競争を強調し、今後の課題を整理する。