[论文解读] Deep Transfer Learning for Static Malware Classification

Li Chen|arXiv (Cornell University)|Dec 18, 2018

Adversarial Robustness in Machine Learning参考文献 19被引用 25

一句话总结

该论文提出了一种深度迁移学习框架，将恶意软件二进制文件视为灰度图像，并利用预训练的计算机视觉模型对恶意软件进行高精度、高效率的分类。通过从自然图像数据集迁移知识，该方法加速了训练过程，实现了最先进性能（最高达99.67%的准确率），并通过LIME实现可解释性解释，增强了安全从业者对模型的信任度。

ABSTRACT

We propose to apply deep transfer learning from computer vision to static malware classification. In the transfer learning scheme, we borrow knowledge from natural images or objects and apply to the target domain of static malware detection. As a result, training time of deep neural networks is accelerated while high classification performance is still maintained. We demonstrate the effectiveness of our approach on three experiments and show that our proposed method outperforms other classical machine learning methods measured in accuracy, false positive rate, true positive rate and $F_1$ score (in binary classification). We instrument an interpretation component to the algorithm and provide interpretable explanations to enhance security practitioners' trust to the model. We further discuss a convex combination scheme of transfer learning and training from scratch for enhanced malware detection, and provide insights of the algorithmic interpretation of vision-based malware classification techniques.

研究动机与目标

• 解决基于签名的恶意软件检测在处理混淆或变形恶意软件时的局限性。
• 通过自动化表示学习，克服在高维静态恶意软件分析中手动特征工程的挑战。
• 利用来自计算机视觉的迁移学习，提升深度神经网络在恶意软件检测中的训练效率和分类性能。
• 通过局部可解释的模型无关解释（LIME）增强模型的可解释性与可信度，以提升安全从业者对模型的信任。
• 探索结合迁移学习与从零开始训练的混合方法，以进一步提升检测的鲁棒性与泛化能力。

提出的方法

• 将原始应用程序二进制文件转换为灰度图像，以视觉数据形式表示，供深度学习使用。
• 通过使用来自计算机视觉模型（如VGG、ResNet）的ImageNet预训练权重，初始化深度神经网络，实现迁移学习。
• 在恶意软件图像数据集上微调预训练模型，以适应目标分类任务，而无需从头开始训练。
• 集成LIME（局部可解释的模型无关解释）框架，生成预测的特征级解释。
• 实现一种凸组合方案，将迁移学习与从零开始训练模型的预测结果进行加权组合，权重由超参数α和β控制，且满足α + β = 1。
• 使用准确率、F1分数和误报率等评估指标优化组合模型，以平衡性能与鲁棒性。

实验结果

研究问题

• RQ1 从计算机视觉迁移学习是否能在无需手动特征工程的情况下，提升静态恶意软件分类的准确率与训练效率？
• RQ2 在有限的恶意软件数据集上，迁移学习与从零开始训练相比，在性能与泛化能力方面表现如何？
• RQ3 通过LIME生成的可解释性解释是否能增强真实恶意软件分析工作流中深度学习模型的信任度与可用性？
• RQ4 迁移学习与从零开始训练的凸组合是否能提升检测性能，特别是降低误报率？
• RQ5 所提出的基于图像的深度学习模型对对抗性扰动或代码混淆技术的鲁棒性如何？

主要发现

• 所提出的迁移学习方法在三个不同的恶意软件数据集上分别实现了99.25%、98.13%和99.67%的分类准确率，优于经典机器学习模型。
• 通过迁移学习与从零开始训练的凸组合，该方法将误报率降低了4.2倍，同时在准确率上比基线模型提升了0.3%。
• 基于LIME的解释组件成功识别出对预测有贡献的恶意软件图像中的显著像素区域，对正确家族分类（如Lolyda.AA2）的置信度超过99.9%。
• 视觉解释显示，该模型正确识别出与无关家族（如Lolyda.AA3）的最小相似性，大多数区域被标记为非贡献区域（红色），验证了模型的一致性。
• 凸组合方案在性能上优于单一方法，表明迁移学习与从零开始训练具有互补优势。
• 该模型在混淆恶意软件上仍保持高性能，表明其对代码变换具有鲁棒性，但对抗鲁棒性仍是未来工作的开放领域。