[论文解读] Adversarial Learning in the Cyber Security Domain

Ishai Rosenberg, Asaf Shabtai+2 more|arXiv (Cornell University)|Jul 5, 2020

Adversarial Robustness in Machine Learning参考文献 106被引用 9

一句话总结

本文提出了一种统一的网络空间安全领域对抗性攻击分类法，根据攻击阶段、攻击者目标和能力对攻击方法进行分类。该研究分析了机器学习驱动的安全系统所面临的对抗性威胁，识别出与其他对抗性学习领域之间的跨领域差距，并为网络空间安全应用中的对抗性鲁棒性研究指明了未来方向。

ABSTRACT

In recent years, machine learning algorithms, and more specially, deep learning algorithms, have been widely used in many fields, including cyber security. However, machine learning systems are vulnerable to adversarial attacks, and this limits the application of machine learning, especially in non-stationary, adversarial environments, such as the cyber security domain, where actual adversaries (e.g., malware developers) exist. This paper comprehensively summarizes the latest research on adversarial attacks against security solutions that are based on machine learning techniques and presents the risks they pose to cyber security solutions. First, we discuss the unique challenges of implementing end-to-end adversarial attacks in the cyber security domain. Following that, we define a unified taxonomy, where the adversarial attack methods are characterized based on their stage of occurrence, and the attacker's goals and capabilities. Then, we categorize the applications of adversarial attack techniques in the cyber security domain. Finally, we use our taxonomy to shed light on gaps in the cyber security domain that have already been addressed in other adversarial learning domains and discuss their impact on future adversarial learning trends in the cyber security domain.

研究动机与目标

• 解决基于机器学习的网络空间安全解决方案日益暴露的对抗性攻击脆弱性问题。
• 识别在动态、对抗性网络空间环境中实施端到端对抗性攻击所面临的独特挑战。
• 建立基于攻击阶段、攻击者目标和能力的标准化对抗性攻击分类法。
• 将现有的对抗性攻击技术映射到网络空间安全应用场景，并突出尚未充分探索的领域。
• 借鉴非网络空间安全领域的对抗性学习经验，为网络空间安全领域的对抗性学习研究提供启示。

提出的方法

• 作者构建了一个统一的分类法，根据攻击发生阶段、攻击者目标和能力对对抗性攻击进行分类。
• 分析了在真实网络空间安全系统中实现端到端对抗性攻击的可行性与挑战。
• 本文对对抗性攻击技术在各类网络空间安全领域（如恶意软件检测和网络入侵检测）中的现有应用进行了分类。
• 将网络空间安全领域的对抗性学习研究与其他领域进行比较，以识别研究空白并提炼可迁移的见解。
• 研究方法包括系统性文献综述与跨领域分析，以识别对抗性鲁棒性研究中的趋势与未满足需求。

实验结果

研究问题

• RQ1 在网络安全领域执行端到端对抗性攻击面临哪些关键挑战？
• RQ2 如何基于阶段、目标和能力对网络安全领域的对抗性攻击方法进行系统性分类？
• RQ3 哪些对抗性攻击技术已在网络安全应用中成功应用，其局限性是什么？
• RQ4 网络安全领域在对抗性学习方面存在哪些尚未解决的差距，而这些差距在其他领域已得到解决？
• RQ5 非网络安全领域的对抗性学习经验如何为网络安全领域的未来研究提供启示？

主要发现

• 建立了一个全面的网络安全领域对抗性攻击分类法，实现了按阶段、目标和能力的清晰分类。
• 由于系统复杂性和动态威胁环境，网络安全领域的端到端对抗性攻击面临显著的实际挑战。
• 多种对抗性攻击技术已在恶意软件检测和网络入侵检测系统中成功应用，但其泛化能力有限。
• 与其它领域相比，网络安全领域的对抗性鲁棒性研究仍存在差距，特别是在迁移性和实际部署方面。
• 来自计算机视觉和自然语言处理等领域的跨领域洞察，可为未来网络安全对抗性学习研究提供指导。