[논문 리뷰] Adversarial Machine Learning In Network Intrusion Detection Domain: A Systematic Review

Huda Ali Alatwi, C. Morisset|arXiv (Cornell University)|2021. 12. 06.

Adversarial Robustness in Machine Learning인용 수 14

한 줄 요약

이 체계적 리뷰는 네트워크 침입 탐지 시스템(NIDS)에서의 적대적 기계학습을 조사하며, 딥러닝 기반 NIDS를 회피하기 위해 적대적 예제를 생성하는 공격을 분석한다. 연구는 공격 유형, 방어 기법, 내구성 평가 기준으로 분류되며, 실생활 적용 가능성과 대응 전략에 대한 주요 과제와 열린 문제를 규명한다.

ABSTRACT

Due to their massive success in various domains, deep learning techniques are increasingly used to design network intrusion detection solutions that detect and mitigate unknown and known attacks with high accuracy detection rates and minimal feature engineering. However, it has been found that deep learning models are vulnerable to data instances that can mislead the model to make incorrect classification decisions so-called (adversarial examples). Such vulnerability allows attackers to target NIDSs by adding small crafty perturbations to the malicious traffic to evade detection and disrupt the system's critical functionalities. The problem of deep adversarial learning has been extensively studied in the computer vision domain; however, it is still an area of open research in network security applications. Therefore, this survey explores the researches that employ different aspects of adversarial machine learning in the area of network intrusion detection in order to provide directions for potential solutions. First, the surveyed studies are categorized based on their contribution to generating adversarial examples, evaluating the robustness of ML-based NIDs towards adversarial examples, and defending these models against such attacks. Second, we highlight the characteristics identified in the surveyed research. Furthermore, we discuss the applicability of the existing generic adversarial attacks for the NIDS domain, the feasibility of launching the proposed attacks in real-world scenarios, and the limitations of the existing mitigation solutions.

연구 동기 및 목표

• 최근의 네트워크 침입 탐지 시스템(NIDS)에서의 적대적 기계학습에 대한 연구를 체계적으로 분석하기 위해.
• 적대적 예제 생성, 모델의 내구성 평가, 공격에 대한 방어 기법 기여도에 따라 연구를 분류하기 위해.
• 기존의 적대적 공격이 실생활 NIDS 환경에서 얼마나 실현 가능한지와 현재 방어 기법의 한계를 평가하기 위해.
• 적대적 내구성에 대한 향후 연구를 이끌기 위해 열려 있는 연구 과제를 규명하기 위해.

제안 방법

• 2017년부터 2021년까지 네트워크 침입 탐지 시스템(NIDS) 분야에서의 적대적 기계학습에 관한 동료 심사 논문을 대상으로 체계적 문헌 리뷰를 수행하였다.
• 연구를 세 가지 범주로 분류: 적대적 예제 생성, 내구성 평가, 방어 기법.
• FGSM, C&W, PGD, GANs, PSO 등의 기법을 사용한 블랙박스, 화이트박스, GRAY박스 공격 유형을 분석하였다.
• 적대적 훈련, 특성 제거, 기울기 기반 정규화 등의 방어 전략을 평가하였다.
• 컴퓨터 비전 분야에서 유래한 일반화된 적대적 공격이 네트워크 트래픽 데이터에 어떻게 적용 가능한지 평가하였다.
• 공격 성공률, 모델 취약성, 현재의 완화 기법의 한계에 관한 통합적 분석을 수행하였다.

실험 결과

연구 질문

• RQ1 NIDS 맥락에서 적대적 예제를 생성하는 데 주로 사용되는 기법은 무엇인가?
• RQ2 기존의 방어 기법은 기계학습 기반 NIDS에 대한 적대적 공격으로부터 얼마나 효과적으로 보호하는가?
• RQ3 컴퓨터 비전 분야에서 유래한 일반화된 적대적 공격이 네트워크 트래픽 데이터에 얼마나 적합하게 적용될 수 있는가?
• RQ4 적대적 조건 하에서 강력한 NIDS를 구현하는 데 있어 핵심적인 한계와 열린 과제는 무엇인가?
• RQ5 현재의 경험적 결과를 바탕으로 실생활 NIDS 구현에서 적대적 공격이 얼마나 실현 가능한가?

주요 결과

• FGSM, C&W, PGD 등의 적대적 공격은 NSL-KDD 및 CICIDS2017 등의 데이터셋에서 DNN, SVM, 앙상블 모델 등 다양한 기계학습 기반 NIDS 모델을 성공적으로 회피하였다.
• GAN 기반 및 PSO 기반 방법은 블랙박스 및 화이트박스 환경 모두에서 탐지 회피에 높은 성공률를 보였다.
• 적대적 훈련은 가장 널리 채택된 방어 기법이지만, 다양한 공격 유형과 데이터셋 간 일반화 성능이 떨어지는 경향이 있다.
• 특성 제거 및 정규화 기법은 공격 효과를 줄이는 데 중간 정도의 성공을 거두었지만, 정상 트래픽 탐지 정확도를 저하시킬 수 있다.
• 많은 공격이 실생활 환경에서 실현 가능하며, 특히 공격자가 쿼리 기반 피드백을 활용해 변형을 정밀 조정할 수 있는 블랙박스 설정에서 높은 가능성 존재.
• 진전이 있었음에도 불구하고, 어떤 방어 기법도 보편적으로 강력하지 않으며, 일반화, 확장성, 실생활 구현 분야에 여전히 큰 격차가 존재한다.