[論文レビュー] Black-box Adversarial Example Attack towards FCG Based Android Malware Detection under Incomplete Feature Information

Heng Li, Cheng Zhang+5 more|arXiv (Cornell University)|Mar 15, 2023

Advanced Malware Detection Techniques被引用数 5

ひとこと要約

本稿では、不完全な特徴情報下での関数コールグラフ（FCG）ベースのAndroidマルウェア検出に対するブラックボックス攻撃を標的としたBagAmmoを提案する。GANを用いた多人口共進化（Apoem）により、try-catchトラップを介して「実行されない関数呼び出し」を挿入することで摂動を生成し、マルウェアの機能を保持しながら、複数のモデルで平均99.9%の成功率で検出を回避する。

ABSTRACT

The function call graph (FCG) based Android malware detection methods have recently attracted increasing attention due to their promising performance. However, these methods are susceptible to adversarial examples (AEs). In this paper, we design a novel black-box AE attack towards the FCG based malware detection system, called BagAmmo. To mislead its target system, BagAmmo purposefully perturbs the FCG feature of malware through inserting "never-executed" function calls into malware code. The main challenges are two-fold. First, the malware functionality should not be changed by adversarial perturbation. Second, the information of the target system (e.g., the graph feature granularity and the output probabilities) is absent. To preserve malware functionality, BagAmmo employs the try-catch trap to insert function calls to perturb the FCG of malware. Without the knowledge about feature granularity and output probabilities, BagAmmo adopts the architecture of generative adversarial network (GAN), and leverages a multi-population co-evolution algorithm (i.e., Apoem) to generate the desired perturbation. Every population in Apoem represents a possible feature granularity, and the real feature granularity can be achieved when Apoem converges. Through extensive experiments on over 44k Android apps and 32 target models, we evaluate the effectiveness, efficiency and resilience of BagAmmo. BagAmmo achieves an average attack success rate of over 99.9% on MaMaDroid, APIGraph and GCN, and still performs well in the scenario of concept drift and data imbalance. Moreover, BagAmmo outperforms the state-of-the-art attack SRL in attack success rate.

研究の動機と目的

• 不完全な特徴情報下でのFCGベースのAndroidマルウェア検出システムに対する効果的なブラックボックス敵対的例の生成という課題に対処すること。
• 検出を回避するためにFCG特徴を摂動させつつも、マルウェアの機能を保持すること。
• ターゲットシステムアーキテクチャ、特徴の粒度、出力確率に関する知識の欠如に対処すること。
• 問題空間（マルウェアコード）でのみ動作し、特徴空間（FCG埋め込み）に所望の変化を引き起こす手法を開発すること。
• 現実世界の検出シナリオにおける概念的ドリフトとデータ不均衡に対する耐性を評価すること。

提案手法

• BagAmmoは、マルウェアコードに「実行されない関数呼び出し」を挿入するためにtry-catchトラップ機構を採用し、機能の保持を保証する。
• 問題空間で候補となる摂動を進化させる生成対戦的ネットワーク（GAN）のジェネレータを用いる。
• 多人口共進化アルゴリズム（Apoem）を用いて、異なるFCG特徴の粒度（例：クラス、パッケージ、ファミリーレベル）を同時に探索する。
• Apoemの各集団は、候補となる特徴粒度を表し、収束によって真のターゲット粒度が特定される。
• ジェネレータは、ターゲット分類器を誤導するが、実行時動作における意味的同等性を維持する摂動を生成するように訓練される。
• モデルのアーキテクチャ、パラメータ、出力確率へのアクセスなしに、厳密なブラックボックス設定で動作する。

実験結果

リサーチクエスチョン

• RQ1 ターゲットモデルの特徴粒度と出力確率が不明であるブラックボックス設定において、敵対的摂動を効果的に生成できるか？
• RQ2 コードレベルでの挿入により、FCGを変更しながらもマルウェアの機能を保持できるか？
• RQ3 ターゲットシステムに関する事前知識がなくとも、共進化最適化を用いたGANベースのアプローチが、高い回避成功率を達成できるか？
• RQ4 概念的ドリフトやデータ不均衡といった現実世界の条件において、攻撃の性能はいかがなっているか？
• RQ5 try-catchブロックの数を数える静的解析ヒューリスティクスによって攻撃を検出できるか？

主な発見

• BagAmmoは、ブラックボックス条件下でMaMaDroid、APIGraph、GCNモデルにおいて、平均99.9%以上の攻撃成功率を達成した。
• 動的解析により、元のサンプルと摂動を加えたサンプルの間で同じ実行時動作とUIが確認され、マルウェアの機能が保持されていることが確認された。
• 50個のテスト済みAPKにおいて、挿入された関数呼び出しはすべて実行されず、摂動が意味的に無害であり動作を変更しないことが確認された。
• 概念的ドリフトとデータ不均衡の下でも攻撃が有効であることが示され、現実世界の展開環境における耐性が裏付けられた。
• SRLという最先端手法に比べ、攻撃成功率が優れていることが確認された。
• try-catchブロックに基づく検出は、挿入されたブロック数が低くかつ変動が大きいため、高い偽陽性または偽陰性率を示し、効果がなかった。