[논문 리뷰] SoK: Arms Race in Adversarial Malware Detection

Deqiang Li, Qianmu Li외 2명|arXiv (Cornell University)|2020. 05. 24.

Advanced Malware Detection Techniques참고 문헌 137인용 수 10

한 줄 요약

이 논문은 공격, 방어 및 보안 성질을 가정의 프레임워크 안에서 통합함으로써 악성 소프트웨어 공격에 대한 체계적인 개요(SoK)를 제시한다. 이는 공격-방어 경쟁의 체계적 분석을 가능하게 하며, 기계 학습(ML)이 문헌에서 실질적인 통찰을 추출할 수 있음을 보여주며, 공격 및 방어 성공에 있어 특징 집합 지식과 조작 집합 인식의 핵심적 의존성을 드러낸다.

ABSTRACT

Malicious software (malware) is a major cyber threat that shall be tackled with Machine Learning (ML) techniques because millions of new malware examples are injected into cyberspace on a daily basis. However, ML is known to be vulnerable to attacks known as adversarial examples. In this SoK paper, we systematize the field of Adversarial Malware Detection (AMD) through the lens of a unified framework of assumptions, attacks, defenses and security properties. This not only guides us to map attacks and defenses into some partial order structures, but also allows us to clearly describe the attack-defense arms race in the AMD context. In addition to manually drawing insights, we also propose using ML to draw insights from the systematized representation of the literature. Examples of the insights are: knowing the defender's feature set is critical to the attacker's success; attack tactic (as a core part of the threat model) largely determines what security property of a malware detector can be broke; there is currently no silver bullet defense against evasion attacks or poisoning attacks; defense tactic largely determines what security properties can be achieved by a malware detector; knowing attacker's manipulation set is critical to defender's success; ML is an effective method for insights learning in SoK studies. These insights shed light on future research directions.

연구 동기 및 목표

• 매일 수백만 개의 새로운 악성 소프트웨어 샘플이 생성되며 빠르게 진화하는 악성 소프트웨어의 증가하는 위협에 대응하기 위해 기계 학습을 통한 자동 검출이 필수적이다.
• 가정의 공통 프레임워크 아래에서 공격, 방어 및 보안 성질을 통합함으로써 악성 소프트웨어 공격에 대한 체계적 분석을 수행한다.
• AMD의 공격-방어 경쟁을 부분 순서 구조로 매핑하여 전략 간의 의존성과 상충 관계를 명확히 한다.
• 기계 학습 기법을 문헌 표현에 적용하여 수동 분석을 초월한 깊이 있는 통찰을 도출할 수 있는지 탐구한다.
• 공격자 및 방어자의 성공에 영향을 주는 핵심 요소들(예: 특징 집합, 조작 집합 지식 등)을 규명하여 향후 연구를 안내한다.

제안 방법

• 핵심 구성 요소(가정, 공격, 방어, 보안 성질)를 통해 AMD를 모델링하는 통합 프레임워크를 제안한다.
• 위협 모델 구성 요소(예: 조작 집합, 공격 전략) 및 보안 성질 기반으로 공격 및 방어를 부분 순서로 구조화한다.
• 기계 학습 기법을 활용한 후속 분석이 가능한 구조적이고 기계 판독 가능한 형식으로 문헌을 표현한다.
• 체계화된 문헌에 기계 학습 모델을 적용하여 패턴과 의존성을 발견한다. 예를 들어, 방어자 또는 공격자의 어떤 요소가 성공에 가장 큰 영향을 미치는지 분석한다.
• 프레임워크를 활용해 다양한 공격 전략(예: 회피, 오염)이 특정 보안 성질(예: 강건성, 정확도)에 어떻게 영향을 미치는지 분석한다.
• 지식(예: 특징 집합, 조작 집합)이 공격 및 방어 효과성에 미치는 역할을 강조하며, 질적 및 정량적 분석을 통해 통찰을 검증한다.

실험 결과

연구 질문

• RQ1 어떻게 공격, 방어 및 보안 성질 간의 관계를 명확히 하기 위해 악성 소프트웨어 공격 탐지 문제를 체계적으로 구조화할 수 있는가?
• RQ2 공격자의 위협 모델—특히 조작 집합과 공격 전략—은 어떤 보안 성질이 침해될 수 있는지를 결정하는 데 어떤 역할을 하는가?
• RQ3 방어자가 공격자의 특징 집합 또는 조작 집합을 얼마나 잘 알고 있는가에 따라 방어 메커니즘의 성공 여부가 얼마나 영향을 받는가?
• RQ4 기계 학습을 통해 악성 소프트웨어 공격 탐지 분야의 문헌에서 수동 분석을 초월한 통찰을 효과적으로 도출할 수 있는가?
• RQ5 현재의 방어 조치에는 회피 공격이나 오염 공격에 대한 통합적인(은은한 황금알) 솔루션이 없어 내재된 한계가 존재하는가?

주요 결과

• 방어자의 특징 집합을 알고 있다는 것은 공격 성공에 결정적인 요소이며, 이는 탐지 회피를 위한 정밀한 악성 예제 생성을 가능하게 한다.
• 공격 전략(예: 회피, 오염)이 다름에 따라 악성 소프트웨어 탐지기의 어떤 보안 성질이 깨질 수 있는지 결정짓는다.
• 현재까지는 회피 공격과 오염 공격 양자 모두에 대비하는 유일한(은은한 황금알) 방어 수단이 존재하지 않으며, 이는 은은한 황금알이 없다는 것을 시사한다.
• 사용되는 방어 전략이 그대로 악성 소프트웨어 탐지기의 달성 가능한 보안 성질을 결정짓기 때문에, 전략 기반의 방어 설계가 필수적이다.
• 공격자의 조작 집합을 알고 있다는 것은 효과적인 대응 조치를 설계하기 위해 방어자에게 필수적이며, 이는 위협 모델링의 중요성을 강조한다.
• 체계화된 문헌에 기계 학습을 적용하는 것은 공격 및 방어 구성 요소 간의 의존성 구조와 같은 명백하지 않은 통찰을 드러내는 데 효과적인 방법이다.