[논문 리뷰] Adversarial Training for Deep Learning-based Intrusion Detection Systems

Islam Debicha, Thibault Debatty외 2명|arXiv (Cornell University)|2021. 04. 20.

Adversarial Robustness in Machine Learning참고 문헌 12인용 수 7

한 줄 요약

이 논문은 딥러닝 기반 침입 탐지 시스템(IDS)에 대한 적대적 공격을 조사하고, 적대적 훈련을 방어 수단으로 평가한다. 적대적 공격이 IDS 성능을 심각하게 악화시킬 수 있음을 입증하였고, 적대적 훈련은 청소년 데이터의 정확도가 약간 감소하더라도 강건성을 향상시켜 네트워크 보안 분야에서 회피 공격에 대비한 타당한 방어 전략이 된다.

ABSTRACT

Nowadays, Deep Neural Networks (DNNs) report state-of-the-art results in many machine learning areas, including intrusion detection. Nevertheless, recent studies in computer vision have shown that DNNs can be vulnerable to adversarial attacks that are capable of deceiving them into misclassification by injecting specially crafted data. In security-critical areas, such attacks can cause serious damage; therefore, in this paper, we examine the effect of adversarial attacks on deep learning-based intrusion detection. In addition, we investigate the effectiveness of adversarial training as a defense against such attacks. Experimental results show that with sufficient distortion, adversarial examples are able to mislead the detector and that the use of adversarial training can improve the robustness of intrusion detection.

연구 동기 및 목표

• 딥러닝 기반 침입 탐지 시스템이 네트워크 보안 환경에서 적대적 공격에 얼마나 취약한지 평가하기.
• 해당 공격에 대비한 적대적 훈련의 효과성을 조사하기.
• 적대적 훈련의 초모수—예를 들어 공격 강도 및 적대적 샘플 비율—이 모델의 강건성과 정확도에 미치는 영향을 분석하기.
• 적대적 예외에 대한 강건성과 청소년 네트워크 트래픽에서의 성능 간의 트레이드오프 평가하기.

제안 방법

• FGSM, BIM, PGD 등의 적대적 공격를 사용하여 정상 네트워크 트래픽에 작은 타겟된 편향을 추가함으로써 적대적 예외를 생성한다.
• PGD 공격를 사용하여 다양한 수준의 편향 강도(ε_defense)로 생성된 적대적 예외와 함께 청소년 훈련 데이터를 혼합하여 적대적 훈련을 구현한다.
• 청결한 샘플과 적대적 샘플의 조합으로 모델을 훈련시키며, 적대적 샘플 비율을 30%, 50%, 70%, 90%로 다양하게 조절하여 그 영향을 평가한다.
• PGD를 사용하여 증가하는 공격 강도(ε_attack) 하에서 모델의 강건성을 평가하며, 적대적 입력에 대한 분류 정확도를 측정한다.
• 청결한 테스트 데이터에서의 성능도 측정하여 강건성과 일반 정확도 사이의 트레이드오프를 평가한다.
• 과적합을 줄이고 적대적 훈련된 모델의 일반화 능력을 향상시키기 위해 훈련 중 드롭아웃 레이어를 사용한다.

실험 결과

연구 질문

• RQ1 적대적 공격가 네트워크 트래픽에 적용되었을 때 딥러닝 기반 침입 탐지 시스템을 성공적으로 오도할 수 있는가?
• RQ2 적대적 훈련은 적대적 예외에 대한 침입 탐지 모델의 강건성에 어떤 영향을 미치는가?
• RQ3 훈련 시 사용된 적대적 예외의 강도(ε_defense)를 변화시켰을 때 모델의 강건성에 어떤 영향을 미치는가?
• RQ4 적대적 훈련 샘플의 비율은 모델이 적대적 공격에 저항하는 능력에 어떤 영향을 미치는가?
• RQ5 적대적 공격에 대한 강건성과 청결한 네트워크 트래픽에서의 정확도 사이에 트레이드오프가 존재하는가?

주요 결과

• 적대적 공격, 특히 충분한 편향 강도(ε_attack)를 가진 공격는 딥러닝 기반 IDS의 성능을 심각하게 악화시켜 고도의 오분류율을 초래할 수 있다.
• 적대적 훈련은 PGD, FGSM, BIM를 통해 생성된 적대적 예외에 대해 침입 탐지 시스템의 강건성을 향상시켜 더 강건하게 만든다.
• 적대적 훈련 시 사용된 편향 강도(ε_defense)를 증가시킬수록 더 강력한 공격에 대한 저항력이 향상되며, 이는 방어 강도와 강건성 간의 직접적인 관계를 시사한다.
• 적대적 훈련 샘플의 비율은 일관되게 강건성을 향상시키지 못한다. ε_defense = 0.7일 때는 높은 비율이 도움이 되었지만, 다른 값에서는 그러한 추세를 관찰할 수 없었으며, 이는 수익 감소 현상을 시사한다.
• 적대적 훈련은 청결한 테스트 데이터에서 정확도가 약간 감소하는 것으로 나타나, 강건성과 일반 성능 간의 트레이드오프가 확인되었다.
• 적대적 훈련 중 드롭아웃 레이어의 사용은 과적합을 완화시키며, 적대적 예외 포함에도 불구하고 모델의 일반화 능력을 지원한다.