[논문 리뷰] EvadeDroid: A Practical Evasion Attack on Machine Learning for Black-box Android Malware Detection

Hamid Bostani, Veelasha Moonsamy|arXiv (Cornell University)|2021. 10. 07.

Advanced Malware Detection Techniques인용 수 6

한 줄 요약

EvadeDroid는 쿼리 효율적이고 문제 공간 기반의 공격으로, 실제 앤드로이드 악성코드 변종을 생성하여 블랙박스 기반 머신러닝 기반 악성코드 검출기들을 회피할 수 있다. n-그램 기반 유사도를 활용해 양호한 기부 앱를 식별하고 반복적으로 최적화된 실행 가능한 변환을 적용함으로써, 오직 1~9회의 쿼리로 다양한 검출기에서 80–95%의 회피율을 달성하면서도 상용 방화벽 엔진에 대한 도청도 최소화한다.

ABSTRACT

Over the last decade, researchers have extensively explored the vulnerabilities of Android malware detectors to adversarial examples through the development of evasion attacks; however, the practicality of these attacks in real-world scenarios remains arguable. The majority of studies have assumed attackers know the details of the target classifiers used for malware detection, while in reality, malicious actors have limited access to the target classifiers. This paper introduces EvadeDroid, a problem-space adversarial attack designed to effectively evade black-box Android malware detectors in real-world scenarios. EvadeDroid constructs a collection of problem-space transformations derived from benign donors that share opcode-level similarity with malware apps by leveraging an n-gram-based approach. These transformations are then used to morph malware instances into benign ones via an iterative and incremental manipulation strategy. The proposed manipulation technique is a query-efficient optimization algorithm that can find and inject optimal sequences of transformations into malware apps. Our empirical evaluations, carried out on 1K malware apps, demonstrate the effectiveness of our approach in generating real-world adversarial examples in both soft- and hard-label settings. Our findings reveal that EvadeDroid can effectively deceive diverse malware detectors that utilize different features with various feature types. Specifically, EvadeDroid achieves evasion rates of 80%-95% against DREBIN, Sec-SVM, ADE-MA, MaMaDroid, and Opcode-SVM with only 1-9 queries. Furthermore, we show that the proposed problem-space adversarial attack is able to preserve its stealthiness against five popular commercial antiviruses with an average of 79% evasion rate, thus demonstrating its feasibility in the real world.

연구 동기 및 목표

• 공격자가 대상 분류기의 정보를 확보하지 못하는 실질적인 블랙박스 기반 안드로이드 악성코드 검출기 공격의 격차를 해소하기 위해.
• 특징 공간이 아닌 실제 APK에서 직접 작동하는 문제 공간에서 작동하는 방법을 개발하여 실행 가능하고 기능적인 악성코드 공격을 보장하기 위해.
• 쿼리 비용과 조작 오버헤드를 최소화하면서도 악성코드의 기능을 유지하고 학술적 및 상용 검출기 모두를 회피하기 위해.
• 다양한 분류기와 기능 유형을 사용하는 다양한 악성코드 검출 시스템에서 악성코드 예제의 강건성과 재사용 가능성을 평가하기 위해.
• 최소한의 탐지 가능성을 갖는 실질적인 가능성을 입증하기 위해 학술적 및 상용 방화벽 솔루션을 효과적으로 회피하기 위해.

제안 방법

• EvadeDroid는 n-그램 기반 접근 방식을 사용해 대상 악성코드와 고도의 오퍼코드 수준 유사도를 가진 양호한 기부 앱를 식별함으로써 문제 공간 변환 집합을 구성한다.
• 기능을 유지하면서 악성코드를 양호한 외관의 변종으로 변형하기 위해 반복적이고 점진적인 조작 전략을 적용한다.
• 대상 검출기의 피드백을 기반으로 최적의 변환 시퀀스를 선택하고 적용하기 위해 쿼리 효율적인 최적화 알고리즘(알고리즘 1에 수식화됨)을 활용한다.
• 앱의 악성 페이로드를 손상시키거나 정적 분석 히وري스틱을 유발하지 않도록, 달빅 바이트코드와 앱 기능(예: 권한, 오퍼코드)을 수정하는 변환에 집중한다.
• 프로그램 슬라이싱을 활용해 변환 대상이 되는 '기관'(코드 세그먼트)을 식별하고 추출하며, 크기 증가를 최소화하고 도청을 유지하기 위한 목표를 가진다.
• 공격은 0지식 가정 하에 작동하며, 모델 가중치나 아키텍처 정보가 아닌 레이블 피드백(예: 양호/악성)만 필요로 한다.

실험 결과

연구 질문

• RQ1 문제 공간 기반의 악성코드 공격이 최소한의 쿼리 사용으로 블랙박스 기반 안드로이드 악성코드 검출기를 효과적으로 회피할 수 있는가?
• RQ2 이러한 공격이 악성 기능을 유지하면서도 학술적 및 상용 방화벽 엔진을 모두 회피할 수 있는가?
• RQ3 다양한 분류기(선형 대비 비선형)와 기능 유형(구문, 오퍼코드, 의미론)을 사용하는 다양한 악성코드 검출기에서 공격의 효과는 어떠한가?
• RQ4 생성된 악성코드 예제가 다른 검출기로의 일반화 정도는 어떠한가? 이는 재사용 가능성을 시사하는가?
• RQ5 크기 증가나 행동적 이질성으로 인한 탐지 회피를 위해 공격이 도청을 유지할 수 있는가?

주요 결과

• EvadeDroid는 소프트-라벨 및 하드-라벨 설정 모두에서 오직 1~9회의 쿼리로 다섯 개인 학술적 악성코드 검출기(DREBIN, Sec-SVM, ADE-MA, MaMaDroid, Opcode-SVM)에 대해 80–95%의 회피율을 달성한다.
• 다섯 개인 상용 방화벽 엔진에 대해 평균 79%의 회피율을 유지하며, 실질적인 도청성과 실현 가능성을 입증한다.
• 한 검출기에서 생성된 악성코드 예제는 높은 재사용 가능성을 보이며, 여러 다른 검출기에서 성공적으로 회피함으로써 다양한 모델 간 강력한 일반화 성능을 보여준다.
• 이 방법은 이산형(권한)과 연속형(오퍼코드 시퀀스) 기능 유형 모두에 대해 강건하며, 기울기 기반 및 비기울기 기반 모델을 포함한 다양한 분류기 유형에 대해 유사하게 작동한다.
• 기존 방법 대비 쿼리 비용과 조작 오버헤드를 크게 줄여 효율적이고 자동으로 악성코드 공격 예제를 생성할 수 있도록 한다.
• 일부 페이로드 크기 증가가 있음에도 불구하고, 작은 악성코드 앱에 대해서도 공격은 효과적이며, 높은 트래픽 상황에서는 크기 증가가 의심을 낳을 수 있음에도 불구하고 지속적으로 효과를 유지한다.