[论文解读] Understanding the efficacy, reliability and resiliency of computer vision techniques for malware detection and future research directions

Li Chen|arXiv (Cornell University)|Apr 3, 2019

Advanced Malware Detection Techniques参考文献 8被引用 3

一句话总结

本文提出一种基于计算机视觉的恶意软件检测方法，通过将二进制文件转换为灰度图像，利用预训练模型（如ResNet和VGG）进行深度迁移学习，实现高达98.13%的分类准确率和0.237%的低误报率。该方法在提升检测效能、可靠性与可解释性的同时，增强了对对抗性攻击的鲁棒性，优于传统机器学习技术，并揭示了基于机器学习的恶意软件检测器中的关键攻击面。

ABSTRACT

My research lies in the intersection of security and machine learning. This overview summarizes one component of my research: combining computer vision with malware exploit detection for enhanced security solutions. I will present the perspectives of efficacy, reliability and resiliency to formulate threat detection as computer vision problems and develop state-of-the-art image-based malware classification. Representing malware binary as images provides a direct visualization of data samples, reduces the efforts for feature extraction, and consumes the whole binary for holistic structural analysis. Employing transfer learning of deep neural networks effective for large scale image classification to malware classification demonstrates superior classification efficacy compared with classical machine learning algorithms. To enhance reliability of these vision-based malware detectors, interpretation frameworks can be constructed on the malware visual representations and useful for extracting faithful explanation, so that security practitioners have confidence in the model before deployment. In cyber-security applications, we should always assume that a malware writer constantly modifies code to bypass detection. Addressing the resiliency of the malware detectors is equivalently important as efficacy and reliability. Via understanding the attack surfaces of machine learning models used for malware detection, we can greatly improve the robustness of the algorithms to combat malware adversaries in the wild. Finally I will discuss future research directions worth pursuing in this research community.

研究动机与目标

• 通过利用二进制文件的视觉表示，解决传统静态与动态恶意软件分析的局限性。
• 通过在图像化恶意软件二进制文件上应用深度迁移学习，提升检测效能，超越传统机器学习模型。
• 通过局部可解释性模型无关解释（LIME）技术，实现对预测结果的可解释性，增强安全运维人员对模型的信任。
• 通过分析并防御针对基于机器学习的恶意软件检测器的对抗性攻击，提升系统鲁棒性。
• 识别半监督学习与可解释人工智能在可扩展、可信恶意软件检测中的未来研究方向。

提出的方法

• 将恶意软件二进制文件转换为灰度像素表示（0–255），以可视化其结构与纹理模式。
• 在恶意软件图像数据集上应用基于ImageNet预训练模型（如ResNet、VGG）的迁移学习，以加速训练并提升准确率。
• 使用局部可解释性模型无关解释（LIME）技术，突出图像中对分类决策贡献最大的区域。
• 利用基于执行日志训练的辅助条件生成对抗网络（AC-GANs）生成对抗性勒索软件行为，以测试检测器的鲁棒性。
• 通过视觉生成对抗网络（GAN）的迁移学习，提升生成恶意行为序列的收敛速度与质量。
• 引入对抗性质量度量指标，量化生成样本的泛化恶意程度，并评估检测器性能的退化程度。

实验结果

研究问题

• RQ1 与传统基于特征的方法相比，基于图像的恶意软件二进制表示是否能提升分类准确率？
• RQ2 如何将可解释性技术应用于基于视觉的恶意软件检测器，以提升安全运营中的信任度与可靠性？
• RQ3 当基于机器学习的恶意软件检测器暴露于人工构造的对抗性行为时，其关键攻击面是什么？
• RQ4 通过GAN生成的对抗性样本在多大程度上会降低最先进恶意软件分类器的性能？
• RQ5 半监督学习与可解释人工智能方法在多大程度上可提升基于图像的恶意软件检测系统的可扩展性与可信度？

主要发现

• 所提出的迁移学习方法实现了98.13%的准确率与0.237%的误报率，显著优于SVM、随机森林和浅层神经网络等传统算法。
• 通过显著性图实现的可解释性揭示了模型将特定像素区域识别为恶意家族的高置信度指标，使安全分析师能够验证预测结果。
• 使用AC-GAN生成的对抗性样本使五分之四的分类器性能下降，表明基于黑箱机器学习的勒索软件检测器存在广泛攻击面。
• 仅SVM-径向基核分类器在攻击下保持了高性能（100%对抗样本检测率），凸显了鲁棒模型设计的必要性。
• 将Text-CNN与其他模型结合可提升整体检测性能，但对抗性样本在大多数情况下仍导致严重性能下降。
• 半监督学习与可信度评分是可行的未来方向，可应对数据稀缺问题并提升真实网络防御环境中的部署准备度。