[논문 리뷰] Adversarial Examples for Deep Learning Cyber Security Analytics.

Alesia Chernikova, Alina Oprea|arXiv (Cornell University)|2019. 09. 23.

Adversarial Robustness in Machine Learning참고 문헌 74인용 수 4

한 줄 요약

이 논문은 딥러닝 기반 사이버 보안 분석에서 특성 제약 조건과 물리적 응용 요구사항을 고려한 새로운 프레임워크를 제안한다. 중간 특성 간의 수학적 및 도메인 특화된 종속성을 모델링함으로써, 12개의 악성 네트워크 연결과 같은 실현 가능한 악성 예측을 악성에서 양성으로 뒤바꾸는 데 최소한의 변형으로도 가능한 악성 예제를 생성한다.

ABSTRACT

As advances in Deep Neural Networks demonstrate unprecedented levels of performance in many critical applications, their vulnerability to attacks is still an open question. Adversarial examples are small modifications of legitimate data points, resulting in mis-classification at testing time. As Deep Neural Networks found a wide range of applications to cyber security analytics, it becomes important to study the robustness of these models in this setting. We consider adversarial testing-time attacks against Deep Learning models designed for cyber security applications. In security applications, machine learning models are not typically trained directly on the raw network traffic or security logs, but on intermediate features defined by domain experts. Existing attacks applied directly to the intermediate feature representation result in violation of feature constraints, leading to invalid adversarial examples. We propose a general framework for crafting adversarial attacks that takes into consideration the mathematical dependencies between intermediate features in model input vector, as well as physical constraints imposed by the applications. We apply our methods on two security applications, a malicious connection and a malicious domain classifier, to generate feasible adversarial examples in these domains. We show that with minimal effort (e.g., generating 12 network connections), an attacker can change the prediction of a model from Malicious to Benign. We extensively evaluate the success of our attacks, and how they depend on several optimization objectives and imbalance ratios in the training data.

연구 동기 및 목표

• 딥러닝 모델이 추론 과정에서 악성 공격에 취약한 점을 해결하기 위해.
• 기존 공격 방식이 중간 특성 표현에 특성 제약 조건을 위반하는 한계를 규명하기 위해.
• 보안 관련 특성 공간에서 수학적 및 물리적 제약 조건을 준수하는 일반화 가능한 공격 프레임워크를 개발하기 위해.
• 학습 데이터의 클래스 불균형 비율과 다양한 최적화 목표에서 악성 공격의 효과성을 평가하기 위해.
• 실제 사이버 보안 응용 프로그램에서 탐지되는 것을 회피할 수 있는 현실적인 악성 예제를 제작할 수 있는지 입증하기 위해.

제안 방법

• 사이버 보안 모델에서 사용되는 중간 특성 간의 수학적 종속성을 고려한 최적화 문제로 악성 예제 생성을 정식화한다.
• 네트워크 연결 속성과 같은 특성 간의 물리적 및 논리적 관계에서 유도된 도메인 특화 제약 조건을 통합하여 생성된 예제가 의미적으로 타당함을 보장한다.
• 편향을 최소화하면서도 타당한 입력 공간 내에 머물도록 제약 최적화 기법을 사용하여 오차를 생성한다.
• 특성 일致성과 물리적 타당성을 유지하기 위해 투영 단계를 포함한 기울기 기반 최적화를 적용한다.
• 악성 연결 탐지 및 악성 도메인 분류와 같은 두 가지 실제 사이버 보안 작업에서 접근법을 평가한다.
• 다양한 최적화 목표를 지원하며, 클래스 불균형 비율의 변화를 고려해 탄력성을 평가한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 중간 특성 표현의 수학적 및 물리적 제약 조건을 위반하지 않고 사이버 보안 응용 프로그램에서 악성 예제를 생성할 수 있는가?
• RQ2 최적화 목표와 학습 데이터의 클래스 불균형 비율이 악성 공격의 성공률에 어떤 정도의 영향을 미치는가?
• RQ3 의미적으로 타당하고 동시에 딥러닝 기반 사이버 보안 모델을 회피하는 데 효과적인 악성 예제를 제작할 수 있는가?
• RQ4 악성 예측을 양성으로 뒤바꾸기 위해 필요한 최소한의 네트워크 연결 수나 특성 수정 수는 얼마인가?
• RQ5 제약 조건을 고려한 공격와 제약 조건이 없는 공격 간에 실현 가능성과 회피 성공률 측면에서 어떤 차이가 있는가?

주요 결과

• 제안된 프레임워크는 사이버 보안 응용 프로그램에서 특성 제약 조건과 물리적 타당성을 준수하는 악성 예제를 성공적으로 생성한다.
• 단 12개의 악성 네트워크 연결만으로도 공격자가 모델의 예측을 악성에서 양성으로 성공적으로 변경할 수 있다.
• 악성 공격의 성공률는 최적화 목표의 선택과 학습 데이터의 클래스 불균형 비율에 의해 크게 영향을 받는다.
• 의미적으로 타당하고 응용 프로그램 맥락에서 정상 트래픽와 구분이 불가능한 실현 가능한 악성 예제를 생성한다.
• 표준 공격이 특성 종속성을 위반하는 것에 비해, 제약 조건을 고려한 최적화 조건에서도 높은 회피 성공률를 보여준다.
• 결과적으로 현재의 사이버 보안을 위한 딥러닝 모델은 최소한의 입력 수정으로도 표적 공격에 취약한 것으로 나타났다.