[논문 리뷰] Packet-Level Adversarial Network Traffic Crafting using Sequence Generative Adversarial Networks

Qiumei Cheng, Shiying Zhou외 3명|arXiv (Cornell University)|2021. 03. 08.

Adversarial Robustness in Machine Learning참고 문헌 36인용 수 15

한 줄 요약

이 논문은 패킷 수준에서 패킷 바이트를 순차적 토큰으로 모델링함으로써 악성 네트워크 트래픽을 생성하는 시퀀스 생성 적대적 신경망인 Attack-GAN을 제안한다. 정책 기반 강화 학습 최적화를 통해 블랙박스 네트워크 침입 탐지 시스템(NIDS)을 회피하는 악성 트래픽을 생성하며, 실제 세계 데이터셋에서 높은 회피율을 달성하면서도 악성 공격 기능을 유지한다.

ABSTRACT

The surge in the internet of things (IoT) devices seriously threatens the current IoT security landscape, which requires a robust network intrusion detection system (NIDS). Despite superior detection accuracy, existing machine learning or deep learning based NIDS are vulnerable to adversarial examples. Recently, generative adversarial networks (GANs) have become a prevailing method in adversarial examples crafting. However, the nature of discrete network traffic at the packet level makes it hard for GAN to craft adversarial traffic as GAN is efficient in generating continuous data like image synthesis. Unlike previous methods that convert discrete network traffic into a grayscale image, this paper gains inspiration from SeqGAN in sequence generation with policy gradient. Based on the structure of SeqGAN, we propose Attack-GAN to generate adversarial network traffic at packet level that complies with domain constraints. Specifically, the adversarial packet generation is formulated into a sequential decision making process. In this case, each byte in a packet is regarded as a token in a sequence. The objective of the generator is to select a token to maximize its expected end reward. To bypass the detection of NIDS, the generated network traffic and benign traffic are classified by a black-box NIDS. The prediction results returned by the NIDS are fed into the discriminator to guide the update of the generator. We generate malicious adversarial traffic based on a real public available dataset with attack functionality unchanged. The experimental results validate that the generated adversarial samples are able to deceive many existing black-box NIDS.

연구 동기 및 목표

• growing IoT 기기 배포의 증가를 배경으로, 딥러닝 기반 NIDS가 적대적 예외에 취약한 점을 다루기 위해.
• 기존로 연속 데이터에 적합한 GAN이지만 이산적이고 구조적인 네트워크 트래픽(패킷 수준)을 생성하는 데 도전 과제가 되는 문제를 해결하기 위해.
• 도메인 제약 조건 하에서 순차적 의사결정 과정으로서 적대적 패킷 생성을 수식화하기 위해.
• 원래 공격 의미를 유지하는 현실적인 적대적 트래픽을 생성함으로써 블랙박스 NIDS를 효과적으로 회피할 수 있도록 하기 위해.
• 강화 학습 기반 생성을 통해 패킷 수준에서 적대적 네트워크 트래픽을 생성하는 것의 타당성과 효능을 입증하기 위해.

제안 방법

• 각 패킷의 바이트를 시퀀스의 토큰으로 간주함으로써 패킷 수준의 적대적 생성을 순차적 의사결정 과정으로 수식화한다.
• SeqGAN에 영감을 얻은 정책 기반 강화 학습 기반 생성자로, 판별자로부터의 기대 보상을 최대화하는 데 기여하는 토큰(바이트)를 선택한다.
• 실제 양성 트래픽과 생성된 적대적 트래픽으로 훈련된 판별자가 생성자 최적화를 위한 피드백을 제공한다.
• 블랙박스 NIDS의 예측 결과를 보상 신호로 통합하여 생성자가 탐지 회피를 목표로 하는 트래픽을 생성하도록 유도한다.
• 유효한 네트워크 프로토콜 구조와 의미 체계를 따르는 패킷 생성을 통해 도메인 제약 조건을 유지한다.
• 보상은 블랙박스 NIDS가 적대적 샘플을 양성으로 잘못 분류하는 데서 유도되는 강화 학습을 통해 생성자를 훈련시킨다.

실험 결과

연구 질문

• RQ1 시퀀스 기반 GAN 프레임워크는 공격 기능을 유지하면서도 패킷 수준에서 효과적으로 적대적 네트워크 트래픽을 생성할 수 있는가?
• RQ2 기존의 적대적 트래픽 생성 방법에 비해 제안된 Attack-GAN은 블랙박스 NIDS를 얼마나 효과적으로 회피하는가?
• RQ3 NIDS 피드백을 통한 정책 기반 강화 학습 기반 생성자가 회피 성능 향상에 얼마나 기여하는가?
• RQ4 생성된 적대적 트래픽은 실제 네트워크 패킷의 의미론적 및 문법적 타당성을 유지하는가?
• RQ5 기본 아키텍처를 수정하지 않고도 다양한 종류의 네트워크 공격에 일반화 가능한가?

주요 결과

• Attack-GAN은 정책 기반 강화 학습 최적화를 통해 바이트를 순차적 토큰으로 모델링함으로써 패킷 수준에서 적대적 네트워크 트래픽을 성공적으로 생성한다.
• 생성된 적대적 샘플은 여러 블랙박스 NIDS에서 높은 회피율을 달성하며, 이는 제안된 방법의 효능을 입증한다.
• 이러한 방법은 공격의 원래 기능을 유지하여 악성 의도가 그대로 유지됨을 보장한다.
• NIDS 예측 결과를 보상 신호로 통합함으로써 생성자의 도전적인 적대적 샘플 생성 능력이 크게 향상된다.
• 이산적 패킷 수준 데이터를 직접 다루기 때문에 이미지 기반 GAN 방법보다 적대적 트래픽 생성에 있어 더 뛰어난 성능을 보인다.
• 실험 결과는 생성된 트래픽가 의미론적으로 타당하며 최신 수준의 NIDS를 우회할 수 있음을 검증한다.