[论文解读] I-MAD: A Novel Interpretable Malware Detector Using Hierarchical Transformer.

Miles Q. Li, Benjamin C. M. Fung+2 more|arXiv (Cornell University)|Sep 15, 2019

Advanced Malware Detection Techniques参考文献 24被引用 8

一句话总结

I-MAD 是一种新颖的可解释恶意软件检测器，采用分层 Transformer 架构在基本块、函数和可执行文件三个层面分析汇编代码，实现了静态恶意软件检测的最先进性能，并通过一种新型前馈神经网络提供特征级别的解释。它通过建模完整的语义含义，克服了先前方法的局限性，提供了透明且可操作的解释。

ABSTRACT

Malware imposes tremendous threats to computer users nowadays. Since signature-based malware detection methods are neither effective nor efficient to identify new malware, many machine learning-based methods have been proposed. A common disadvantage of existing machine learning methods is that they are not based on understanding the full semantic meaning of assembly code of an executable. They rather use short assembly code fragments, because assembly code is usually too long to be modelled in its entirety. Another disadvantage is that those methods have either inferior performance or bad interpretability. To overcome these challenges, we propose an Interpretable MAware Detector (I-MAD), which achieves state-of-the-art performance on static malware detection with excellent interpretability. It integrates a hierarchical Transformer network that can understand assembly code at the basic block, function, and executable level. It also integrates our novel interpretable feed-forward neural network to provide interpretations for its detection results by pointing out the impact of each feature with respect to the prediction. Experiment results show that our model significantly outperforms previous state-of-the-art static malware detection models and presents meaningful interpretations.

研究动机与目标

• 解决现有基于机器学习的恶意软件检测方法中可解释性差和语义理解有限的问题。
• 通过在多个抽象层次上建模完整的汇编代码，克服对短汇编片段的依赖。
• 开发一种高性能检测模型，同时为预测结果提供有意义的、特征级别的解释。
• 将分层表征学习与可解释深度学习相结合，以提升恶意软件分析中的信任度和可用性。

提出的方法

• I-MAD 采用分层 Transformer 架构，对汇编代码在三个层次上进行编码：基本块、函数和整个可执行文件。
• 利用多头自注意力机制捕捉汇编指令之间长距离依赖关系和语义关联。
• 集成一种新型可解释前馈神经网络，量化每个输入特征对最终预测的贡献。
• 通过分层编码流程处理原始反汇编代码，从低层到高层聚合表征。
• 通过将预测得分归因于单个特征实现可解释性，从而识别恶意代码模式。
• 框架在静态恶意软件数据集上端到端训练，使用交叉熵损失函数，并结合注意力监督。

实验结果

研究问题

• RQ1 分层 Transformer 模型能否有效捕捉恶意软件检测中完整汇编代码的语义含义？
• RQ2 将可解释前馈网络集成后，如何在不牺牲性能的前提下提升模型透明度？
• RQ3 I-MAD 在准确性和鲁棒性方面相较于现有最先进静态恶意软件检测器的性能提升程度如何？
• RQ4 该模型能否提供与人类分析师对恶意行为理解一致的、有意义的、特征级别的解释？

主要发现

• I-MAD 在静态恶意软件检测基准测试中达到最先进性能，显著优于以往的 SOTA 模型。
• 该模型通过识别对预测决策贡献最大的特定汇编特征，展现出卓越的可解释性。
• 分层注意力机制使模型能够更好地理解基本块、函数和整个可执行文件的代码语义。
• 可解释前馈网络的集成提供了稳定且有意义的特征重要性归因。
• 即使在分析长而复杂的可执行文件时，该模型仍能保持高检测准确率。