[論文レビュー] Adversarial Learning in the Cyber Security Domain

Ishai Rosenberg, Asaf Shabtai+2 more|arXiv (Cornell University)|Jul 5, 2020

Adversarial Robustness in Machine Learning参考文献 106被引用数 9

ひとこと要約

本稿では、サイバーセキュリティ分野における敵対的攻撃を統合的かつ体系的に分類するための包括的枠組みを提示する。攻撃の段階、攻撃者の目的、能力に基づいて攻撃手法を分類し、機械学習に基づくセキュリティシステムに対する敵対的脅威を分析。他の敵対的学習分野との間で生じる分野横断的ギャップを特定し、サイバーセキュリティ応用分野における敵対的ロバストネス分野の今後の研究を導く。

ABSTRACT

In recent years, machine learning algorithms, and more specially, deep learning algorithms, have been widely used in many fields, including cyber security. However, machine learning systems are vulnerable to adversarial attacks, and this limits the application of machine learning, especially in non-stationary, adversarial environments, such as the cyber security domain, where actual adversaries (e.g., malware developers) exist. This paper comprehensively summarizes the latest research on adversarial attacks against security solutions that are based on machine learning techniques and presents the risks they pose to cyber security solutions. First, we discuss the unique challenges of implementing end-to-end adversarial attacks in the cyber security domain. Following that, we define a unified taxonomy, where the adversarial attack methods are characterized based on their stage of occurrence, and the attacker's goals and capabilities. Then, we categorize the applications of adversarial attack techniques in the cyber security domain. Finally, we use our taxonomy to shed light on gaps in the cyber security domain that have already been addressed in other adversarial learning domains and discuss their impact on future adversarial learning trends in the cyber security domain.

研究の動機と目的

• 機械学習に基づくサイバーセキュリティソリューションが敵対的攻撃に対してますます脆弱であるという問題に対処すること。
• 動的かつ敵対的なサイバー環境においてエンドツーエンドの敵対的攻撃を実装する上で生じる独自の課題を特定すること。
• 攻撃の段階、攻撃者の目的、能力に基づいて敵対的攻撃を分類する標準化された分類法を確立すること。
• 既存の敵対的攻撃技術をサイバーセキュリティ応用分野にマッピングし、未だ十分に検討されていない分野を浮き彫りにすること。
• サイバーセキュリティ分野以外の敵対的学習分野から得られる知見を、サイバーセキュリティ分野における敵対的学習分野の今後の研究を支援するための指針とする。

提案手法

• 著者らは、攻撃の発生段階、攻撃者の目的、能力に基づいて敵対的攻撃を分類する統合的分類法を開発した。
• 実際のサイバーセキュリティシステムにエンドツーエンドの敵対的攻撃を実装する際の実現可能性と課題を分析した。
• 本稿では、マルウェア検出やネットワークインシデント検出など、さまざまなサイバーセキュリティ分野における敵対的攻撃技術の応用を分類した。
• サイバーセキュリティ分野における敵対的学習研究と他の分野を比較し、ギャップを特定するとともに、応用可能な知見を抽出した。
• 系統的な文献レビューと分野横断的分析を実施し、敵対的ロバストネス分野におけるトレンドと未解決課題を同定する手法を採用した。

実験結果

リサーチクエスチョン

• RQ1 サイバーセキュリティ分野においてエンドツーエンドの敵対的攻撃を実行する上で、どのような主な課題が生じるか？
• RQ2 サイバーセキュリティ分野において、段階、目的、能力に基づいて敵対的攻撃手法を体系的に分類する方法は何か？
• RQ3 どの敵対的攻撃技術がサイバーセキュリティ応用分野で実際に成功裏に適用されてきたのか、またそれらの制限要因は何か？
• RQ4 他の分野で既に解決済みの課題があるにもかかわらず、サイバーセキュリティ分野において未解決のまま残っている敵対的学習分野のギャップは何か？
• RQ5 サイバーセキュリティ分野以外の敵対的学習分野から得られる知見は、今後のサイバーセキュリティ分野における敵対的学習研究をどのように支援できるか？

主な発見

• 攻撃の段階、目的、能力に基づく包括的な敵対的攻撃分類法が確立され、分類の明確化が可能になった。
• システムの複雑さと動的かつ変化し続ける脅威環境のため、サイバーセキュリティ分野におけるエンドツーエンドの敵対的攻撃は、実務的に大きな課題を抱えている。
• マルウェア検出やネットワークインシデント検出システムへの敵対的攻撃技術の適用は一部成功しているが、一般化性に欠けている。
• 特に転送性（transferability）と実世界への展開性の面で、他の分野と比較してサイバーセキュリティ分野における敵対的ロバストネス研究にギャップが存在する。
• コンピュータビジョンや自然言語処理分野からの分野横断的知見は、今後のサイバーセキュリティ分野における敵対的学習研究を支援するための貴重な指針となる。