[论文解读] Towards interpreting ML-based automated malware detection models: a survey

Yuzhou Lin, Xiaolin Chang|arXiv (Cornell University)|Jan 15, 2021

Advanced Malware Detection Techniques参考文献 96被引用 5

一句话总结

本综述提出了一种针对基于机器学习的恶意软件检测模型的全面分类法与评估框架，以解决这些系统存在的黑箱特性问题。该研究分析了恶意软件检测中的可解释性方法，基于现有的机器学习可解释性分类法提出了一种新颖的分类体系，并通过方法特异性属性对最先进方法进行量化评估，以衡量可解释性质量。

ABSTRACT

Malware is being increasingly threatening and malware detectors based on traditional signature-based analysis are no longer suitable for current malware detection. Recently, the models based on machine learning (ML) are developed for predicting unknown malware variants and saving human strength. However, most of the existing ML models are black-box, which made their pre-diction results undependable, and therefore need further interpretation in order to be effectively deployed in the wild. This paper aims to examine and categorize the existing researches on ML-based malware detector interpretability. We first give a detailed comparison over the previous work on common ML model inter-pretability in groups after introducing the principles, attributes, evaluation indi-cators and taxonomy of common ML interpretability. Then we investigate the interpretation methods towards malware detection, by addressing the importance of interpreting malware detectors, challenges faced by this field, solutions for migitating these challenges, and a new taxonomy for classifying all the state-of-the-art malware detection interpretability work in recent years. The highlight of our survey is providing a new taxonomy towards malware detection interpreta-tion methods based on the common taxonomy summarized by previous re-searches in the common field. In addition, we are the first to evaluate the state-of-the-art approaches by interpretation method attributes to generate the final score so as to give insight to quantifying the interpretability. By concluding the results of the recent researches, we hope our work can provide suggestions for researchers who are interested in the interpretability on ML-based malware de-tection models.

研究动机与目标

• 为解决基于机器学习的恶意软件检测模型可解释性不足的问题，该问题阻碍了信任建立与实际部署。
• 对基于机器学习的恶意软件检测系统中可解释性研究进行分类与分析。
• 识别在解释这些模型时面临的关键挑战，例如模型复杂性与对抗鲁棒性。
• 提出一种新的、系统化的分类法，用于对恶意软件检测中最新解释方法进行分类。
• 通过方法特异性属性对近期方法的可解释性进行定量评估，生成最终的可解释性评分。

提出的方法

• 对通用机器学习研究中常见的机器学习可解释性原则、属性、评估指标与分类法进行详细比较。
• 对现有机器学习可解释性分类法进行适配与扩展，构建一种专用于恶意软件检测模型的新型领域特定分类法。
• 根据其底层机制与目标，将近期最先进的恶意软件检测解释技术划分为不同类别。
• 利用一组标准化属性（例如，保真度、稳定性、可理解性）对顶尖方法的可解释性进行评估，以生成定量可解释性评分。
• 在恶意软件检测背景下分析模型不透明性、特征重要性模糊性以及对抗性样本等挑战。
• 综合近期文献的研究成果，为研究人员与实践者提供关于选择与改进可解释性方法的可操作洞察。

实验结果

研究问题

• RQ1 解释基于机器学习的恶意软件检测模型面临哪些关键挑战，这些挑战与通用机器学习可解释性挑战有何不同？
• RQ2 如何对现有机器学习可解释性分类法进行适配与扩展，以有效分类恶意软件检测中的解释方法？
• RQ3 针对基于机器学习的恶意软件检测器，哪些解释技术最为有效，它们在保真度与可理解性方面如何比较？
• RQ4 如何对不同方法的可解释性进行定量评估，以实现客观比较与选择？
• RQ5 在恶意软件检测系统背景下，哪些关键属性定义了高质量的可解释性？

主要发现

• 所提出的分类法为基于机器学习的恶意软件检测中的解释方法提供了一个结构化、领域特定的框架，提升了清晰度与可比性。
• 保真度、稳定性与特征重要性准确性等可解释性属性对于评估解释方法的可靠性至关重要。
• 该综述指出，许多现有解释方法在对抗性扰动下缺乏鲁棒性，这在实际部署中构成风险。
• 通过方法特异性属性进行的定量评估，使可解释性技术的比较更加客观，部分方法在可理解性与保真度方面得分显著更高。
• 研究发现，近期工作中缺乏标准化的评估协议，凸显了在恶意软件检测可解释性领域建立一致基准的迫切需求。
• 可解释性在恶意软件检测流程中的集成仍处于初级阶段，由于复杂性与性能权衡，其在生产系统中的采用仍有限。