[논문 리뷰] The Threat of Adversarial Attacks on Machine Learning in Network Security -- A Survey

Olakunle Ibitoye, Rana Abou-Khamis외 3명|arXiv (Cornell University)|2019. 11. 06.

Network Security and Intrusion Detection인용 수 45

한 줄 요약

이 설문조사는 네트워크 보안에서의 적대적 공격을 분류하고, 적대적 위험에 대한 위험 격자 맵을 도입하며, ML 기반 네트워크 보안 공격에 대한 방어를 분석한다. 문제 공간과 특징 공간의 구분 및 네트워크 보안 응용에 정렬된 분류학에 초점을 맞춘다.

ABSTRACT

Machine learning models have made many decision support systems to be faster, more accurate, and more efficient. However, applications of machine learning in network security face a more disproportionate threat of active adversarial attacks compared to other domains. This is because machine learning applications in network security such as malware detection, intrusion detection, and spam filtering are by themselves adversarial in nature. In what could be considered an arm's race between attackers and defenders, adversaries constantly probe machine learning systems with inputs that are explicitly designed to bypass the system and induce a wrong prediction. In this survey, we first provide a taxonomy of machine learning techniques, tasks, and depth. We then introduce a classification of machine learning in network security applications. Next, we examine various adversarial attacks against machine learning in network security and introduce two classification approaches for adversarial attacks in network security. First, we classify adversarial attacks in network security based on a taxonomy of network security applications. Secondly, we categorize adversarial attacks in network security into a problem space vs feature space dimensional classification model. We then analyze the various defenses against adversarial attacks on machine learning-based network security applications. We conclude by introducing an adversarial risk grid map and evaluating several existing adversarial attacks against machine learning in network security using the risk grid map. We also identify where each attack classification resides within the adversarial risk grid map.

연구 동기 및 목표

• 네트워크 보안 맥락에서의 기계 학습 기법, 작업, 깊이에 대한 분류학을 제안한다.
• 네트워크 보안에서의 ML 응용을 분류하고 이러한 응용에 적대적 공격을 매핑한다.
• 네트워크 보안에서의 적대적 공격에 대한 문제 공간 대 특징 공간 차원 분류를 도입한다.
• 적대적 위험 프레임워크 및 격자 맵을 정의하고 적용하여 공격 시나리오를 평가한다.
• ML 기반 네트워크 보안의 적대적 공격에 대한 방어를 검토하고 격차와 향후 방향을 식별한다.

제안 방법

• 네트워크 보안 ML 응용을 정리하기 위한 기초로서 학습 작업, 기술, 깊이의 3차원 ML 분류를 제공한다.
• 네트워크 보안 응용에 기반한 적대적 공격의 분류학을 개발하고 문제 공간 대 특징 공간 분류를 도입한다.
• 공격 가능성과 심각도를 평가하기 위한 적대적 위험 격자 맵을 도입하고 이 맵 내에서 공격을 분류한다.
• 네트워크 보안에 초점을 맞춘 기존 연구에서 제시된 적대적 공격 방법 및 방어를 종합한다.
• 네트워크 보안 맥락에서의 공격자 지식 모델(화이트/그레이/블랙 박스)과 공격 전략(회피, 오염, 오라클)을 비교한다.

실험 결과

연구 질문

• RQ1 ML 기반 네트워크 보안 응용에 대해 적대적 공격을 어떻게 구체적으로 분류할 수 있는가?
• RQ2 네트워크 보안에서 문제 공간 대 특징 공간 구분이 적대적 공격 설계에 어떤 영향을 미치는가?
• RQ3 ML 기반 네트워크 보안 시스템에 대한 공격의 가능성과 심각도를 정량화하기 위해 적대적 위험 격자 맵을 어떻게 활용할 수 있는가?
• RQ4 네트워크 보안을 위한 ML의 적대적 공격에 대한 방어는 무엇이 있으며, 어떤 격차가 존재하는가?
• RQ5 제안된 적대적 위험 프레임워크 내에서 다양한 공격 분류는 어디에 위치하는가?

주요 결과

• 네트워크 보안 응용에 맞춘 새로운 적대적 공격 분류학을 도입한다.
• 네트워크 보안에서의 적대적 공격에 대한 문제 공간 대 특징 공간 차원 분류를 제안한다.
• 보안 작업 전반에서 공격 가능성 및 영향력을 평가하기 위한 적대적 위험 격자 맵을 도입한다.
• 네트워크 보안 맥락에서 기존의 적대적 공격 및 방어를 검토하고 분류한다.
• ML 기반 네트워크 보안에서 공격자와 방어자의 경쟁 구도를 강조하고 향후 연구 방향을 제시한다.