[论文解读] SoK: Arms Race in Adversarial Malware Detection

Deqiang Li, Qianmu Li+2 more|arXiv (Cornell University)|May 24, 2020

Advanced Malware Detection Techniques参考文献 137被引用 10

一句话总结

本文通过将攻击、防御与安全属性统一于假设框架之下，对对抗性恶意软件检测（AMD）进行了系统性综述（SoK），实现了对攻防对抗军备竞赛的结构化分析。结果表明，机器学习可从文献中提取可操作的洞察，揭示出成功实施攻击与防御的关键依赖关系，如对特征集知识和操作集认知的掌握。

ABSTRACT

Malicious software (malware) is a major cyber threat that shall be tackled with Machine Learning (ML) techniques because millions of new malware examples are injected into cyberspace on a daily basis. However, ML is known to be vulnerable to attacks known as adversarial examples. In this SoK paper, we systematize the field of Adversarial Malware Detection (AMD) through the lens of a unified framework of assumptions, attacks, defenses and security properties. This not only guides us to map attacks and defenses into some partial order structures, but also allows us to clearly describe the attack-defense arms race in the AMD context. In addition to manually drawing insights, we also propose using ML to draw insights from the systematized representation of the literature. Examples of the insights are: knowing the defender's feature set is critical to the attacker's success; attack tactic (as a core part of the threat model) largely determines what security property of a malware detector can be broke; there is currently no silver bullet defense against evasion attacks or poisoning attacks; defense tactic largely determines what security properties can be achieved by a malware detector; knowing attacker's manipulation set is critical to defender's success; ML is an effective method for insights learning in SoK studies. These insights shed light on future research directions.

研究动机与目标

• 应对日益增长的恶意软件威胁，其每日新增样本达数百万个，亟需通过机器学习实现自动化检测。
• 通过将攻击、防御与安全属性统一于假设框架之下，系统化整理对抗性恶意软件检测（AMD）领域。
• 将AMD中的攻防军备竞赛映射为偏序结构，以明确战术与安全属性之间的依赖关系与权衡。
• 探究如何将机器学习应用于文献表征，以超越人工分析，提取更深层次的洞察。
• 识别影响攻击者与防御者成功的关键因素，如对特征集和操作集的认知，以指导未来研究。

提出的方法

• 提出一个统一框架，通过核心组件（假设、攻击、防御、安全属性）建模AMD。
• 基于威胁模型组件（如操作集、攻击战术）和安全属性，对攻击与防御进行偏序结构化组织。
• 以结构化、机器可读的格式表示文献，以支持后续基于机器学习技术的分析。
• 应用机器学习模型于系统化后的文献，以发现模式与依赖关系，例如哪些防御或攻击因素最显著影响成功率。
• 利用框架分析不同攻击战术（如逃避攻击、投毒攻击）对特定安全属性（如鲁棒性、准确率）的影响。
• 通过文献的定性与定量分析验证洞察，强调知识（如特征集、操作集）在攻防有效性中的作用。

实验结果

研究问题

• RQ1 如何系统性地构建对抗性恶意软件检测框架，以明确攻击、防御与安全属性之间的关系？
• RQ2 攻击者的威胁模型——特别是操作集与攻击战术——在决定哪些检测器安全属性可能被破坏方面起什么作用？
• RQ3 防御者对攻击者特征集或操作集的认知在多大程度上影响防御机制的成功？
• RQ4 机器学习能否有效用于从对抗性恶意软件检测文献中提取超越人工分析的洞察？
• RQ5 当前防御机制是否存在固有局限，例如缺乏对逃避攻击或投毒攻击的通用（银弹）解决方案？

主要发现

• 掌握防御者的特征集是攻击者成功的关键因素，因其可实现对对抗性样本的精准构造以绕过检测。
• 攻击战术（如逃避攻击、投毒攻击）在很大程度上决定了恶意软件检测器的哪些安全属性可被破坏。
• 目前尚无防御机制能同时有效应对逃避攻击与投毒攻击，表明缺乏银弹解决方案。
• 所采用的防御战术直接决定了恶意软件检测器可实现的安全属性，凸显了针对特定战术设计防御的必要性。
• 掌握攻击者的操作集对防御者设计有效对策至关重要，突显了威胁建模的重要性。
• 将机器学习应用于系统化后的文献是发现非显性洞察（如攻击与防御组件间的依赖结构）的有效方法。