[논문 리뷰] Efficient Black-box Optimization of Adversarial Windows Malware with Constrained Manipulations.

Luca Demetrio, Battista Biggio외 3명|arXiv (Cornell University)|2020. 03. 30.

Advanced Malware Detection Techniques인용 수 8

한 줄 요약

이 논문은 Windows 악성코드 검출기 대상 블랙박스 적대적 공격을 제안하며, 각 최적화 단계에서 샌드박스 실행을 필요로 하지 않고도 탐지 회피가 가능한 제약 조건이 부여되고 의미를 유지하는 코드 수정을 사용한다. 이 방법은 공격을 제약 조건이 있는 최소화 문제로 공식화하여 적은 반복 수로 악성코드 회피를 달성하고, 상업용 악성코드 방어 소프트웨어로의 전이성도 입증한다. 이로 인해 계산 비용을 크게 줄이고 기능 유지 능력을 유지한다.

ABSTRACT

Windows malware detectors based on machine learning are vulnerable to adversarial examples, even if the attacker is only given black-box access to the model. The main drawback of these attacks is that they require executing the adversarial malware sample in a sandbox at each iteration of its optimization process, to ensure that its intrusive functionality is preserved. In this paper, we present a novel black-box attack that leverages a set of semantics-preserving, constrained malware manipulations to overcome this computationally-demanding validation step. Our attack is formalized as a constrained minimization problem which also enables optimizing the trade-off between the probability of evading detection and the size of the injected adversarial payload. We investigate this trade-off empirically, on two popular static Windows malware detectors, and show that our black-box attack is able to bypass them with only few iterations and changes. We also evaluate whether our attack transfers to other commercial antivirus solutions, and surprisingly find that it can increase the probability of evading some of them. We conclude by discussing the limitations of our approach, and its possible future extensions to target malware classifiers based on dynamic analysis.

연구 동기 및 목표

• 기존의 블랙박스 적대적 공격이 악성코드 기능 검증을 위해 반복적인 샌드박스 실행을 요구함에 따라 발생하는 높은 계산 비용을 해결한다.
• 악성코드의 의미를 유지하면서도 적대적 패킷 최적화를 효율적으로 수행할 수 있는 방법을 개발한다.
• 공격을 제약 조건이 있는 최소화 문제로 공식화하여 탐지 회피 성공률과 패킷 크기 사이의 균형을 맞춘다.
• 학습 또는 최적화 과정에서 사용되지 않은 상업용 악성코드 방어 솔루션으로의 공격 전이성 평가를 수행한다.
• 자원 집약적인 검증에 의존하지 않고도 최소한의 반복 수와 수정으로 효과적인 회피를 달성할 수 있음을 입증한다.

제안 방법

• 탐지 회피 확률과 패킷 크기 사이의 균형을 최적화하기 위해 적대적 공격을 제약 조건이 있는 최소화 문제로 공식화한다.
• 악성코드 기능을 유지하는 제약 조건이 있는 변형(예: 코드 재정렬, 양호한 명령어 삽입)의 집합을 정의한다.
• 이러한 제약 조건이 있는 변형을 블랙박스 최적화의 검색 공간으로 사용하여 각 단계에서 샌드박스 실행이 필요 없도록 한다.
• 제약 조건이 있는 변형 공간을 반복적으로 최적화하여 적대적 악성코드 샘플을 생성한다.
• Windows PE 바이너리의 구조적 특성을 활용하여 수정이 악성코드의 핵심 동작을 변경하지 않도록 보장한다.
• 두 개의 정적 악성코드 검출기에서 접근적으로 방법을 검증하고 상업용 AV로의 전이성 평가를 수행한다.

실험 결과

연구 질문

• RQ1 반복적인 샌드박스 실행 없이도 블랙박스 환경에서 효율적으로 적대적 악성코드를 생성할 수 있는가?
• RQ2 제약 조건이 있고 의미를 유지하는 코드 수정이 얼마나 잘 악성코드의 기능을 유지하면서도 탐지 회피에 효과적인가?
• RQ3 제안된 방법이 탐지 회피 성공률과 패킷 크기 사이의 균형을 얼마나 효과적으로 조절하는가?
• RQ4 학습 또는 최적화 과정에서 사용되지 않은 상업용 악성코드 방어 솔루션으로도 공격가 전이되는가?
• RQ5 제안된 방법으로 신뢰할 수 있는 회피를 달성하기 위해 필요한 최소 반복 수는 얼마인가?

주요 결과

• 제안된 공격은 몇 번의 반복과 최소한의 코드 수정으로 두 개의 인기 있는 정적 Windows 악성코드 검출기에서 탐지 회피를 달성한다.
• 각 최적화 단계에서 샌드박스 실행이 필요 없어져 계산 비용이 크게 감소한다.
• 공격은 놀라운 전이성을 보이며, 일부 상업용 악성코드 방어 솔루션의 탐지율을 높인다.
• 제약 조건이 있는 변형 공간은 악성코드의 기능을 효과적으로 유지하면서도 효과적인 적대적 편향을 가능하게 한다.
• 제약 조건이 있는 최소화 공식화를 통해 탐지 회피 확률과 패킷 크기 사이의 균형이 효과적으로 최적화된다.
• 실제 악성코드 검출 시스템 대상 적대적 공격의 강력한 실용 가능성을 보여준다.