[论文解读] Automated Poisoning Attacks and Defenses in Malware Detection Systems: An Adversarial Machine Learning Approach

Sen Chen, Minhui Xue+5 more|arXiv (Cornell University)|Jun 13, 2017

Advanced Malware Detection Techniques参考文献 42被引用 9

一句话总结

本文提出KuafuDet，一种两阶段对抗性机器学习防御方法，通过整合自适应学习机制与自动化伪装检测器，过滤并重新训练误检的负样本，从而提升恶意软件检测能力。在真实世界Android恶意软件数据集的投毒攻击场景下，该方法可将误检率降低，并使检测准确率至少提升15%。

ABSTRACT

The evolution of mobile malware poses a serious threat to smartphone security. Today, sophisticated attackers can adapt by maximally sabotaging machine-learning classifiers via polluting training data, rendering most recent machine learning-based malware detection tools (such as Drebin, DroidAPIMiner, and MaMaDroid) ineffective. In this paper, we explore the feasibility of constructing crafted malware samples; examine how machine-learning classifiers can be misled under three different threat models; then conclude that injecting carefully crafted data into training data can significantly reduce detection accuracy. To tackle the problem, we propose KuafuDet, a two-phase learning enhancing approach that learns mobile malware by adversarial detection. KuafuDet includes an offline training phase that selects and extracts features from the training set, and an online detection phase that utilizes the classifier trained by the first phase. To further address the adversarial environment, these two phases are intertwined through a self-adaptive learning scheme, wherein an automated camouflage detector is introduced to filter the suspicious false negatives and feed them back into the training phase. We finally show that KuafuDet can significantly reduce false negatives and boost the detection accuracy by at least 15%. Experiments on more than 250,000 mobile applications demonstrate that KuafuDet is scalable and can be highly effective as a standalone system.

研究动机与目标

• 探究通过操纵训练数据构造恶意软件样本以投毒基于机器学习的恶意软件检测器的可行性。
• 分析在三种不同威胁模型（低、中、高攻击强度）下，投毒攻击如何降低检测性能。
• 设计一种可扩展、鲁棒的防御机制，以减轻移动恶意软件检测中对抗性训练数据投毒的影响。
• 在真实世界攻击条件下，评估所提防御机制在降低误检率与提升检测准确率方面的有效性。

提出的方法

• 提出KuafuDet，一种两阶段系统：离线训练阶段用于特征提取与模型学习，线上检测阶段用于实时分类。
• 引入自适应学习机制，将检测阶段发现的可疑误检负样本反馈至再训练过程，以提升模型鲁棒性。
• 采用自动化伪装检测器识别并过滤被错误分类为良性但实际为恶意的样本，随后对这些样本进行再训练。
• 通过修改AndroidManifest.xml和Smali文件，实施细粒度的语法级特征操纵，同时保持应用功能不变。
• 设计定制化的对抗性构造算法，在三种威胁模型下生成具有可控特征扰动的投毒样本。
• 采用标准分类器（如SVM、逻辑回归、KNN）并基于梯度攻击的对抗性扰动分析评估其鲁棒性。

实验结果

研究问题

• RQ1 通过操纵训练数据的投毒攻击在多大程度上会降低Drebin、DroidAPIMiner和MaMaDroid等先进恶意软件检测系统的表现？
• RQ2 攻击者攻击强度的不同级别（低、中、高）在误分类率与检测准确率损失方面对投毒攻击成功率有何影响？
• RQ3 一种基于过滤后误检负样本的自适应学习机制，是否能显著降低对抗环境下误报率与漏报率？
• RQ4 在投毒攻击条件下，KuafuDet相较于基线模型在检测准确率方面提升程度如何？

主要发现

• 将精心构造的恶意软件样本注入训练集的投毒攻击，可显著降低检测准确率，在所有三种威胁模型下均观测到可测量的性能下降。
• 所提出的KuafuDet防御系统在投毒攻击下，相比基线模型，能将误检率降低并使检测准确率至少提升15%。
• 在超过25万款真实世界Android应用上的实验表明，KuafuDet作为独立检测系统具备良好的可扩展性与有效性。
• 自适应学习机制与伪装检测器相结合，能有效识别并重新训练此前被错误分类的恶意样本，从而增强模型鲁棒性。
• 即使仅限于语法特征的操纵（仅修改语法特征），投毒攻击仍能对恶意应用实现高误分类率，表明当前系统存在显著脆弱性。
• KuafuDet是首个被实证证明能有效应对移动恶意软件检测中对抗性投毒攻击的防御机制，同时保持高可扩展性与真实世界适用性。