[论文解读] Intelligent Systems Design for Malware Classification Under Adversarial Conditions

Sean M. Devine, Nathaniel D. Bastian|arXiv (Cornell University)|Jul 6, 2019

Advanced Malware Detection Techniques参考文献 12被引用 8

一句话总结

本文提出一种堆叠集成机器学习方法，通过在扰动数据上训练基础模型并采用软投票方式组合，以提升对抗环境下恶意软件分类的鲁棒性。该方法在保持高准确率的同时增强了对数据 poisoning 攻击的抗性，最终的堆叠模型在对抗性设置下优于单一分类器。

ABSTRACT

The use of machine learning and intelligent systems has become an established practice in the realm of malware detection and cyber threat prevention. In an environment characterized by widespread accessibility and big data, the feasibility of malware classification without the use of artificial intelligence-based techniques has been diminished exponentially. Also characteristic of the contemporary realm of automated, intelligent malware detection is the threat of adversarial machine learning. Adversaries are looking to target the underlying data and/or algorithm responsible for the functionality of malware classification to map its behavior or corrupt its functionality. The ends of such adversaries are bypassing the cyber security measures and increasing malware effectiveness. The focus of this research is the design of an intelligent systems approach using machine learning that can accurately and robustly classify malware under adversarial conditions. Such an outcome ultimately relies on increased flexibility and adaptability to build a model robust enough to identify attacks on the underlying algorithm.

研究动机与目标

• 解决基于机器学习的恶意软件分类器在对抗性网络环境中对数据 poisoning 攻击的脆弱性。
• 设计一种智能系统方法，通过在扰动训练数据上进行训练来增强模型鲁棒性。
• 评估并组合在不同扰动水平下训练的多个基础分类器，以提升整体抗性。
• 利用软投票机制构建堆叠集成模型，整合多种扰动方案下的预测结果。
• 证明在非对抗性条件下，鲁棒性可实现而不牺牲整体分类准确率。

提出的方法

• 在原始数据和扰动训练数据（包括特征扰动和标签扰动）上训练多个基础机器学习模型（如SVM、随机森林、逻辑回归）。
• 通过随机采样实施可控的数据 poisoning，以模拟对抗性训练数据场景。
• 采用线性堆叠方法，基于三个数据集（未扰动、特征扰动、标签扰动）中基础模型的预测概率，组合其预测结果。
• 在元学习器层级（第二层SVM）实施软投票集成，选择所有基础模型后验概率之和最大的类别。
• 通过测量所有扰动方案下的准确率与鲁棒性，评估模型在对抗性条件下的性能。
• 采用降维技术以应对大规模特征集带来的内存约束，尽管其应用范围已最小化。

实验结果

研究问题

• RQ1 在对抗性扰动数据上训练基础分类器是否能提升其在恶意软件分类中对数据 poisoning 攻击的鲁棒性？
• RQ2 对不同扰动方案训练的多个基础模型进行堆叠，如何影响整体分类准确率与鲁棒性？
• RQ3 在元学习器层级使用软投票集成是否能增强对对抗性数据的抗性，同时保持对干净数据的性能？
• RQ4 在堆叠模型中，对抗性条件下的鲁棒性与未扰动数据上的准确率之间存在何种权衡？
• RQ5 在所有扰动方案上进行最终软投票集成，是否能进一步提升模型在真实对抗性环境下的鲁棒性？

主要发现

• 采用第二层支持向量机元学习器的堆叠集成模型在对抗性条件下优于所有单一基础模型。
• 最终堆叠模型即使在受污染数据上训练，仍保持高准确率，表明有效缓解了数据 poisoning 的影响。
• 在所有扰动方案上采用软投票集成方法，显著提升了模型的鲁棒性，相较单一模型表现更优。
• 在未扰动数据上观察到准确率略有下降，但该代价因对抗性抗性显著提升而合理。
• 该方法在整合不同类型扰动训练的模型方面表现有效，从而构建出更具适应性与智能性的分类系统。
• 本研究为在真实网络防御应用中实际部署鲁棒、智能的恶意软件分类系统奠定了基础。