[論文レビュー] Examining Adversarial Learning against Graph-based IoT Malware Detection Systems

Ahmed Abusnaina, Aminollah Khormali+5 more|arXiv (Cornell University)|Feb 12, 2019

Adversarial Robustness in Machine Learning参考文献 11被引用数 4

ひとこと要約

本稿は、IoTマルウェア検出におけるグラフベースのディープラーニングモデルの敵対的攻撃に対する頑健性を調査する。敵対的IoTマルウェアサンプルを検出を回避しつつ機能を保持するように生成する2つの手法—Off-the-Shelf Adversarial Attacks (OSAA) および Graph Embedding and Augmentation (GEA)—を提案する。主な発見は、GEAが100%のマルウェアサンプルを正しく悪意のないものとして誤分類することに成功し、実用的状況下での深刻な脆弱性を示している。

ABSTRACT

The main goal of this study is to investigate the robustness of graph-based Deep Learning (DL) models used for Internet of Things (IoT) malware classification against Adversarial Learning (AL). We designed two approaches to craft adversarial IoT software, including Off-the-Shelf Adversarial Attack (OSAA) methods, using six different AL attack approaches, and Graph Embedding and Augmentation (GEA). The GEA approach aims to preserve the functionality and practicality of the generated adversarial sample through a careful embedding of a benign sample to a malicious one. Our evaluations demonstrate that OSAAs are able to achieve a misclassification rate (MR) of 100%. Moreover, we observed that the GEA approach is able to misclassify all IoT malware samples as benign.

研究の動機と目的

• 敵対的攻撃下におけるグラフベースのディープラーニングモデルのIoTマルウェア検出の頑健性を評価すること。
• CFGベースのIoTマルウェア検出システムにおける敵対的学習の影響に関する研究ギャップを埋めること。
• 検出を回避しつつ、機能性と実用性を保持する敵対的サンプルを生成すること。
• 市販の敵対的攻撃と新規のグラフ埋め込み手法の有効性および実用性を比較すること。

提案手法

• GCCおよびRadare2を用いてIoTバイナリから制御フローダイアグラム（CFG）を構築し、特徴抽出を実施。
• CFGから23のグラフベース特徴（例：媒介性、近接性、次数中心性、密度、エッジ/頂点数など）を抽出。
• 2,557個のIoTサンプル（マルウェア2,281個、健全なバイナリ276個）を用いてCNNベースの分類器を学習し、97.13%の正答率を達成。
• 6種類の市販の敵対的攻撃手法（C&W、DeepFool、ElasticNet、JSMA、MIM、PGD）を用い、特徴空間を摂動。
• 悪意のないグラフを悪意のあるものに統合することで、機能を保持する敵対的サンプルを生成するGraph Embedding and Augmentation (GEA) を提案。
• GEAの評価を、さまざまなグラフサイズおよび密度で実施し、誤分類率と計算コストを測定。

実験結果

リサーチクエスチョン

• RQ1 市販の敵対的攻撃は、グラフベースのIoTマルウェア検出で高い誤分類率を達成できるか？
• RQ2 元の機能性および実用性を保持しつつ、検出を回避する敵対的サンプルを生成できるか？
• RQ3 グラフサイズおよび密度は、敵対的サンプル生成の成功率および計算コストにどのように影響するか？
• RQ4 GEAアプローチは、実行可能動作を保持しつつ、マルウェアを悪意のないものとしてどれほど誤分類できるか？

主な発見

• OSAA手法は、全6種類の攻撃タイプで最大100%の誤分類率（MR）を達成し、PGDおよびMIMはそれぞれ22.56および20.60の特徴変更数を要した。
• 最大の悪意のあるグラフ（455ノード）をターゲットとした場合、GEAアプローチは100%のマルウェアサンプルを正しく悪意のないものとして誤分類し、計算時間は1,123.12 msであった。
• 健全なグラフから悪意のあるグラフへの誤分類に関して、GEAは最大の健全なグラフ（367ノード）で88.04%のMRを達成し、高い回避能力を示した。
• GEAにおける誤分類率はグラフサイズに応じて上昇しており、より大きい・より複雑なグラフは敵対的操作に対してより脆弱であることが示された。
• GEAは元のサンプルの機能的正しさを維持したが、OSAAは実用性や実行可能性を保証しない。
• 訓練済みモデルにおける高い偽陰性率（11.26%）は、クラス不均衡に起因しており、実運用環境における課題を示している。