[论文解读] Packet-Level Adversarial Network Traffic Crafting using Sequence Generative Adversarial Networks

Qiumei Cheng, Shiying Zhou+3 more|arXiv (Cornell University)|Mar 8, 2021

Adversarial Robustness in Machine Learning参考文献 36被引用 15

一句话总结

本文提出 Attack-GAN，一种序列生成对抗网络，通过将数据包字节建模为序列标记，在数据包级别生成对抗性网络流量。利用策略梯度优化，该方法生成可绕过黑箱网络入侵检测系统（NIDS）的恶意流量，在真实世界数据集上实现高规避率，同时保持攻击功能。

ABSTRACT

The surge in the internet of things (IoT) devices seriously threatens the current IoT security landscape, which requires a robust network intrusion detection system (NIDS). Despite superior detection accuracy, existing machine learning or deep learning based NIDS are vulnerable to adversarial examples. Recently, generative adversarial networks (GANs) have become a prevailing method in adversarial examples crafting. However, the nature of discrete network traffic at the packet level makes it hard for GAN to craft adversarial traffic as GAN is efficient in generating continuous data like image synthesis. Unlike previous methods that convert discrete network traffic into a grayscale image, this paper gains inspiration from SeqGAN in sequence generation with policy gradient. Based on the structure of SeqGAN, we propose Attack-GAN to generate adversarial network traffic at packet level that complies with domain constraints. Specifically, the adversarial packet generation is formulated into a sequential decision making process. In this case, each byte in a packet is regarded as a token in a sequence. The objective of the generator is to select a token to maximize its expected end reward. To bypass the detection of NIDS, the generated network traffic and benign traffic are classified by a black-box NIDS. The prediction results returned by the NIDS are fed into the discriminator to guide the update of the generator. We generate malicious adversarial traffic based on a real public available dataset with attack functionality unchanged. The experimental results validate that the generated adversarial samples are able to deceive many existing black-box NIDS.

研究动机与目标

• 解决深度学习-based NIDS 在物联网设备部署日益增长的背景下对对抗样本的脆弱性问题。
• 克服传统 GAN 适用于连续数据而难以生成离散、结构化网络流量（数据包级别）的挑战。
• 开发一种将对抗性数据包生成建模为受领域约束的序列决策过程的方法。
• 通过生成保持原始攻击语义的逼真对抗性流量，实现对黑箱 NIDS 的有效规避。
• 证明并验证使用强化学习引导生成在数据包级别生成对抗性网络流量的可行性与有效性。

提出的方法

• 将数据包级别的对抗性生成建模为序列决策过程，将数据包中的每个字节视为序列中的一个标记。
• 采用受 SeqGAN 启发的基于策略梯度的生成器，选择能最大化判别器预期奖励的标记（字节）。
• 使用真实良性流量和生成的对抗性流量训练判别器，为生成器优化提供反馈。
• 将黑箱 NIDS 的预测结果作为奖励信号，引导生成器生成可绕过检测的流量。
• 通过确保生成的数据包符合有效的网络协议结构和语义，维持领域约束。
• 使用强化学习训练生成器，其中奖励源自 NIDS 将对抗样本错误分类为良性。

实验结果

研究问题

• RQ1 基于序列的 GAN 框架能否在保持攻击功能的前提下，有效生成数据包级别的对抗性网络流量？
• RQ2 与现有对抗性构造方法相比，所提出的 Attack-GAN 在绕过黑箱 NIDS 方面的效能如何？
• RQ3 基于 NIDS 反馈的策略梯度生成器在多大程度上提升了规避性能？
• RQ4 生成的对抗性流量是否保持了真实网络数据包的语义和句法有效性？
• RQ5 该方法是否能在不修改底层架构的情况下泛化至不同类型网络攻击？

主要发现

• Attack-GAN 通过使用策略梯度优化将字节建模为序列标记，在数据包级别成功生成对抗性网络流量。
• 生成的对抗性样本在多个黑箱 NIDS 上实现了高规避率，证明了该方法的有效性。
• 该方法在构造的流量中保持了原始攻击功能，确保恶意意图完整保留。
• 将 NIDS 预测结果作为奖励信号显著提升了生成器生成隐蔽对抗性样本的能力。
• 与直接在图像级别操作的 GAN 方法相比，该方法通过直接处理离散的数据包级别数据，在对抗性流量生成方面表现更优。
• 实验结果验证了生成流量在语义有效性方面成立，并能成功绕过最先进的 NIDS。