[论文解读] Towards Interpretable Ensemble Learning for Image-based Malware Detection

Yuzhou Lin, Xiaolin Chang|arXiv (Cornell University)|Jan 13, 2021

Anomaly Detection Techniques and Applications参考文献 39被引用 4

一句话总结

该论文提出了一种可解释的集成学习框架 IEMD，用于基于图像的恶意软件检测，通过将选择性深度集成学习（SDEL）检测器与集成深度泰勒分解（EDTD）方法相结合，实现像素级解释。IEMD 在保持高保真度、鲁棒性和表达力解释的同时，实现了 99.87% 的检测准确率，证明了在恶意软件检测系统中可解释性与准确率可以共存。

ABSTRACT

Deep learning (DL) models for image-based malware detection have exhibited their capability in producing high prediction accuracy. But model interpretability is posing challenges to their widespread application in security and safety-critical application domains. This paper aims for designing an Interpretable Ensemble learning approach for image-based Malware Detection (IEMD). We first propose a Selective Deep Ensemble Learning-based (SDEL) detector and then design an Ensemble Deep Taylor Decomposition (EDTD) approach, which can give the pixel-level explanation to SDEL detector outputs. Furthermore, we develop formulas for calculating fidelity, robustness and expressiveness on pixel-level heatmaps in order to assess the quality of EDTD explanation. With EDTD explanation, we develop a novel Interpretable Dropout approach (IDrop), which establishes IEMD by training SDEL detector. Experiment results exhibit the better explanation of our EDTD than the previous explanation methods for image-based malware detection. Besides, experiment results indicate that IEMD achieves a higher detection accuracy up to 99.87% while exhibiting interpretability with high quality of prediction results. Moreover, experiment results indicate that IEMD interpretability increases with the increasing detection accuracy during the construction of IEMD. This consistency suggests that IDrop can mitigate the tradeoff between model interpretability and detection accuracy.

研究动机与目标

• 为解决深度学习模型在基于图像的恶意软件检测中可解释性不足的问题，尤其是在安全关键环境中的应用。
• 克服现有基于图像的恶意软件检测系统中模型准确率与可解释性之间的权衡。
• 开发一种新型解释方法，为模型预测提供可靠、高质量的像素级归因。
• 设计一种训练策略，在不牺牲检测性能的前提下提升可解释性。

提出的方法

• 提出一种选择性深度集成学习（SDEL）检测器，通过选择性地结合多个深度神经网络来提高预测准确率。
• 引入集成深度泰勒分解（EDTD）方法，用于生成解释 SDEL 预测的像素级显著性图。
• 提出数学公式，利用保真度、鲁棒性和表达力指标在像素级热图上评估解释质量。
• 设计一种新型的可解释性丢弃（IDrop）技术，在训练 SDEL 检测器的同时提升解释质量。
• 使用 EDTD 为每次预测生成解释，并通过定量指标进行验证。
• 将 SDEL、EDTD 和 IDrop 整合到一个统一的框架 IEMD 中，实现端到端的可解释恶意软件检测。

实验结果

研究问题

• RQ1 集成深度学习模型是否能在基于图像的恶意软件检测中实现高检测准确率，同时保持高质量的可解释性？
• RQ2 如何为恶意软件检测中的深度学习模型可靠地生成并评估像素级解释？
• RQ3 通过集成学习提高模型准确率是否也能增强预测的可解释性？
• RQ4 像可解释性丢弃（IDrop）这样的训练策略是否能有效缓解准确率与可解释性之间的权衡？
• RQ5 保真度、鲁棒性和表达力指标与解释质量的相关性在多大程度上与检测性能相关？

主要发现

• IEMD 实现了 99.87% 的检测准确率，展示了在基于图像的恶意软件检测中处于最先进水平的性能。
• EDTD 生成的解释质量优于以往的解释方法，这通过保真度、鲁棒性和表达力指标得到验证。
• 在模型训练过程中，解释质量（以解释指标衡量）随着检测准确率的提升而同步提高。
• 所提出的 IDrop 方法成功缓解了传统上准确率与可解释性之间的权衡。
• 检测准确率与解释质量之间的相关性表明，更高准确率的模型能够自然地产生更可靠、更具可解释性的预测。