[論文レビュー] Automated Poisoning Attacks and Defenses in Malware Detection Systems: An Adversarial Machine Learning Approach

Sen Chen, Minhui Xue+5 more|arXiv (Cornell University)|Jun 13, 2017

Advanced Malware Detection Techniques参考文献 42被引用数 9

ひとこと要約

本稿では、自己適応学習方式と自動カモフラージュ検出器を統合することで、誤検出をフィルタリング・再訓練する二段階の敵対的機械学習防御であるKuafuDetを提案する。この手法は、偽陰性を低減させ、実世界のAndroidマルウェアデータセットにおけるポisons攻撃状況で、検出精度を最低15%向上させる。

ABSTRACT

The evolution of mobile malware poses a serious threat to smartphone security. Today, sophisticated attackers can adapt by maximally sabotaging machine-learning classifiers via polluting training data, rendering most recent machine learning-based malware detection tools (such as Drebin, DroidAPIMiner, and MaMaDroid) ineffective. In this paper, we explore the feasibility of constructing crafted malware samples; examine how machine-learning classifiers can be misled under three different threat models; then conclude that injecting carefully crafted data into training data can significantly reduce detection accuracy. To tackle the problem, we propose KuafuDet, a two-phase learning enhancing approach that learns mobile malware by adversarial detection. KuafuDet includes an offline training phase that selects and extracts features from the training set, and an online detection phase that utilizes the classifier trained by the first phase. To further address the adversarial environment, these two phases are intertwined through a self-adaptive learning scheme, wherein an automated camouflage detector is introduced to filter the suspicious false negatives and feed them back into the training phase. We finally show that KuafuDet can significantly reduce false negatives and boost the detection accuracy by at least 15%. Experiments on more than 250,000 mobile applications demonstrate that KuafuDet is scalable and can be highly effective as a standalone system.

研究の動機と目的

• 機械学習ベースのマルウェア検出器を、訓練データを操作することで汚染するマルウェアサンプルの作成可能性を検討すること。
• 低、中、高の攻撃的 aggressiveness を示す3つの異なる脅威モデル下で、汚染攻撃が検出性能に与える影響を分析すること。
• モバイルマルウェア検出における敵対的訓練データ汚染の影響を軽減するスケーラブルで頑健な防御メカニズムを設計すること。
• 実世界の攻撃状況下で、提案された防御が偽陰性の低減と検出精度の向上にどの程度有効であるかを評価すること。

提案手法

• 特徴抽出とモデル学習のためのオフライン訓練フェーズ、およびリアルタイム分類のためのオンライン検出フェーズを備えた二段階システムであるKuafuDetを提案する。
• 検出フェーズで疑わしい偽陰性を再訓練にフィードバックする自己適応学習方式を導入し、モデルの頑健性を向上させる。
• 悪意のあるサンプルが誤って良性と分類されるのを特定・フィルタリングする自動カモフラージュ検出器を採用し、そのサンプルを再訓練する。
• アプリの機能を保持したまま、AndroidManifest.xmlおよびSmaliファイルの構文レベル特徴を操作する。
• 3つの脅威モデル下で、制御された特徴摂動を持つ汚染サンプルを生成するためのカスタマイズされた敵対的作成アルゴリズムを適用する。
• 標準分類器（例：SVM、ロジスティック回帰、KNN）を用い、勾配ベースの敵対的摂動解析による頑健性を評価する。

実験結果

リサーチクエスチョン

• RQ1 訓練データを操作する汚染攻撃が、Drebin、DroidAPIMiner、MaMaDroidといった最先端のマルウェア検出システムの性能をどの程度低下させるか？
• RQ2 攻撃者の攻撃的 aggressiveness（低、中、高）の違いが、誤分類率と検出精度の低下に与える影響は何か？
• RQ3 フィルタリングされた偽陰性を再訓練に活用する自己適応学習メカニズムは、敵対的環境下で偽陽性および偽陰性率を顕著に低減できるか？
• RQ4 汚染攻撃状況下で、KuafuDetはベースラインモデルと比較してどの程度検出精度を向上させるか？

主な発見

• 訓練セットに仕組まれたマルウェアサンプルを注入する汚染攻撃は、すべての3つの脅威モデルで検出精度を顕著に低下させる。
• 提案されたKuafuDet防御システムは、汚染攻撃下でベースラインモデルと比較して、偽陰性を低減し、検出精度を最低15%向上させる。
• 25万件を超える実世界のAndroidアプリを用いた実験により、KuafuDetがスケーラブルかつ有効な単体検出システムであることが確認された。
• 自己適応学習メカニズムとカモフラージュ検出器の組み合わせにより、以前に誤って分類された悪意あるサンプルを効果的に特定・再訓練でき、モデルの頑健性が向上した。
• 構文特徴のみを制限的に操作した状況下でも、汚染攻撃は悪意あるアプリに対して高い誤分類率を達成しており、現在のシステムの脆弱性を示している。
• KuafuDetは、モバイルマルウェア検出における敵対的汚染を効果的に抑える最初の防御メカニズムであり、高いスケーラビリティと実世界への適用可能性を維持している。