[論文レビュー] Yes, Machine Learning Can Be More Secure! A Case Study on Android Malware Detection

Ambra Demontis, Marco Melis+7 more|arXiv (Cornell University)|Apr 28, 2017

Advanced Malware Detection Techniques被引用数 9

ひとこと要約

本稿では、Drebinのような機械学習ベースのAndroidマルウェア検出器に対する回避攻撃に対する耐性を高めるセキュアラーニングの枠組みを提案する。通常の検出性能を著しく低下させることなく、線形分類器の特徴量重みを再配分することで、入力の操作に対する脆弱性を低減し、攻撃者が検出を回避するためにはより複雑で検知されやすい変更を加える必要が生じるようになる。

ABSTRACT

To cope with the increasing variability and sophistication of modern attacks, machine learning has been widely adopted as a statistically-sound tool for malware detection. However, its security against well-crafted attacks has not only been recently questioned, but it has been shown that machine learning exhibits inherent vulnerabilities that can be exploited to evade detection at test time. In other words, machine learning itself can be the weakest link in a security system. In this paper, we rely upon a previously-proposed attack framework to categorize potential attack scenarios against learning-based malware detection tools, by modeling attackers with different skills and capabilities. We then define and implement a set of corresponding evasion attacks to thoroughly assess the security of Drebin, an Android malware detector. The main contribution of this work is the proposal of a simple and scalable secure-learning paradigm that mitigates the impact of evasion attacks, while only slightly worsening the detection rate in the absence of attack. We finally argue that our secure-learning approach can also be readily applied to other malware detection tasks.

研究の動機と目的

• 機械学習ベースのAndroidマルウェア検出器を標的とする回避攻撃の増大する脅威に対処すること。
• 攻撃者が分類器および学習データについての知識や能力が異なる場合、どのようにマルウェアサンプルを操作して検出を回避できるかを調査すること。
• 通常状態での高い検出精度を維持しつつ、こうした攻撃に対して事前に耐性を持つセキュアラーニングフレームワークを設計すること。
• 提案手法がDrebinにとどまらず、他のマルウェア検出タスクへも一般化可能であることを示すこと。

提案手法

• 著者らは、攻撃者の知識および能力のレベル（例：知識なし、部分的知識、完全な知識）をモデル化し、現実的な回避攻撃シナリオをシミュレートする。
• Drebinに対して、オブスクリューション技術（例：DexGuard）および知識に基づく操作を用いた一連の回避攻撃を実装し、分類器の耐性をテストする。
• 線形分類器における特徴量重みのより均一な分布を強制する、新しいセキュアラーニングアルゴリズムを提案する。これにより、個々の特徴量の操作に対する感受性が低下する。
• 重みベクトルに線形制約を導入することで、特徴量の重要度をバランスさせ、攻撃者が特定の特徴量を悪用するのを難しくする。
• 理論的分析に基づき、Drebinデータセットを用いた広範な実験により検証する。
• 実験的カーネルマッピングを用いて、非線形分類器への応用を拡張し、より広範な適用可能性を実現する。

実験結果

リサーチクエスチョン

• RQ1 Drebinのような最先端の機械学習ベースのAndroidマルウェア検出器は、知的な敵対者による回避攻撃に対してどれほど脆弱であるか？
• RQ2 攻撃者が分類器および学習データについての知識の程度が異なる場合、攻撃の効果性にどのような差が生じるか？
• RQ3 回避攻撃に対して耐性を高めつつ、通常の検出性能を低下させないセキュアラーニングアプローチを設計可能か？
• RQ4 提案されたセキュアラーニングパラダイムは、他のマルウェア検出システムへどの程度一般化可能か？

主な発見

• 標準的なDrebin分類器は、攻撃者がモデルを完全に把握している場合、特に高い脆弱性を示す。
• Drebinにおける高重量特徴量を狙った回避攻撃は、マルウェアコードの変更を最小限に抑えながらも、検出を回避することができる。
• 提案されたセキュアラーニング手法により、成功した回避に必要な操作回数が著しく増加し、攻撃がより複雑かつ検知されやすくなる。
• 攻撃が存在しない状態でも、検出精度はほぼ同等を維持し、平均してF1スコアで1%未満のわずかな性能低下にとどまる。
• セキュアラーニング手法は、知識なし、部分的知識、完全な知識のさまざまな攻撃シナリオにおいても有効である。
• 本手法は、PDFおよびJavaScriptのマルウェア検出タスクに対しても成功裏に適用され、一般化可能性と実用的妥当性が確認された。