[论文解读] Yes, Machine Learning Can Be More Secure! A Case Study on Android Malware Detection

Ambra Demontis, Marco Melis+7 more|arXiv (Cornell University)|Apr 28, 2017

Advanced Malware Detection Techniques被引用 9

一句话总结

本文提出了一种安全学习范式，可增强基于机器学习的 Android 恶意软件检测器（如 Drebin）对逃避攻击的鲁棒性，同时不会显著降低正常检测性能。通过重新分配线性分类器中的特征权重以减少对输入操纵的敏感性，该方法迫使攻击者必须进行更复杂、更易被检测到的修改才能绕过检测。

ABSTRACT

To cope with the increasing variability and sophistication of modern attacks, machine learning has been widely adopted as a statistically-sound tool for malware detection. However, its security against well-crafted attacks has not only been recently questioned, but it has been shown that machine learning exhibits inherent vulnerabilities that can be exploited to evade detection at test time. In other words, machine learning itself can be the weakest link in a security system. In this paper, we rely upon a previously-proposed attack framework to categorize potential attack scenarios against learning-based malware detection tools, by modeling attackers with different skills and capabilities. We then define and implement a set of corresponding evasion attacks to thoroughly assess the security of Drebin, an Android malware detector. The main contribution of this work is the proposal of a simple and scalable secure-learning paradigm that mitigates the impact of evasion attacks, while only slightly worsening the detection rate in the absence of attack. We finally argue that our secure-learning approach can also be readily applied to other malware detection tasks.

研究动机与目标

• 解决针对基于机器学习的 Android 恶意软件检测器日益增长的逃避攻击威胁。
• 研究具有不同知识和能力水平的攻击者如何操纵恶意软件样本以逃避检测。
• 设计一种安全学习框架，主动抵御此类攻击，同时在正常条件下保持高检测准确率。
• 证明所提出方法在 Drebin 之外其他恶意软件检测任务中的可扩展性。

提出的方法

• 作者对具有不同知识水平和能力的攻击者（例如，无知识、部分知识、完全知识）进行建模，以模拟现实的逃避攻击场景。
• 他们使用混淆技术（如 DexGuard）和基于知识的操纵方法，在 Drebin 上实施一系列逃避攻击，以测试分类器的鲁棒性。
• 提出一种新颖的安全学习算法，通过在线性分类器中实现更均匀的特征权重分布，降低对单个特征操纵的敏感性。
• 该方法在权重向量上引入线性约束，以确保特征重要性的均衡分布，使攻击者更难利用单一特征。
• 该方法基于理论分析，并通过在 Drebin 数据集上的大量实验得到验证。
• 通过经验核映射将该方法扩展至非线性分类器，从而实现更广泛的应用。

实验结果

研究问题

• RQ1 基于机器学习的先进 Android 恶意软件检测器（如 Drebin）对智能敌手的逃避攻击有多脆弱？
• RQ2 当攻击者对分类器和训练数据的了解程度不同时，攻击的有效性有何关键差异？
• RQ3 能否设计一种安全学习方法，在不降低正常检测性能的前提下提升对逃避攻击的鲁棒性？
• RQ4 所提出的安全学习范式在多大程度上可推广至其他恶意软件检测系统？

主要发现

• 标准 Drebin 分类器对逃避攻击高度脆弱，尤其当攻击者完全掌握模型并能战略性地操纵特征时。
• 利用 Drebin 中高权重特征的逃避攻击可仅通过极少的代码修改就成功绕过检测。
• 所提出的安全部分学习方法显著增加了成功逃避所需的修改次数，使攻击更复杂且更易被检测。
• 在无攻击情况下，该方法保持了几乎相同的检测准确率，仅造成轻微的性能下降（平均 F1 分数下降小于 1%）。
• 该安全学习方法在不同攻击场景下均表现有效，包括无知识、部分知识和完全知识的攻击者。
• 该方法已成功应用于其他恶意软件检测任务（PDF 和 JavaScript），证实了其可扩展性和实际相关性。