[논문 리뷰] Automated Poisoning Attacks and Defenses in Malware Detection Systems: An Adversarial Machine Learning Approach

Sen Chen, Minhui Xue외 5명|arXiv (Cornell University)|2017. 06. 13.

Advanced Malware Detection Techniques참고 문헌 42인용 수 9

한 줄 요약

이 논문은 악성 소프트웨어 탐지 성능을 향상시키기 위해 자가 적응 학습 기반과 자동 캠oufl라 검출기(캠oufla 검출기)를 통합한 이단계 적대적 기계 학습 방어 기법인 KuafuDet을 제안한다. 이는 잘못 분류된 양성 결과(거짓 음성)를 걸러내고 재학습함으로써 거짓 음성 수를 줄이고, 실제 앤드로이드 악성 소프트웨어 데이터셋에서의 오염 공격 상황에서 최소 15% 이상 정확도를 향상시킨다.

ABSTRACT

The evolution of mobile malware poses a serious threat to smartphone security. Today, sophisticated attackers can adapt by maximally sabotaging machine-learning classifiers via polluting training data, rendering most recent machine learning-based malware detection tools (such as Drebin, DroidAPIMiner, and MaMaDroid) ineffective. In this paper, we explore the feasibility of constructing crafted malware samples; examine how machine-learning classifiers can be misled under three different threat models; then conclude that injecting carefully crafted data into training data can significantly reduce detection accuracy. To tackle the problem, we propose KuafuDet, a two-phase learning enhancing approach that learns mobile malware by adversarial detection. KuafuDet includes an offline training phase that selects and extracts features from the training set, and an online detection phase that utilizes the classifier trained by the first phase. To further address the adversarial environment, these two phases are intertwined through a self-adaptive learning scheme, wherein an automated camouflage detector is introduced to filter the suspicious false negatives and feed them back into the training phase. We finally show that KuafuDet can significantly reduce false negatives and boost the detection accuracy by at least 15%. Experiments on more than 250,000 mobile applications demonstrate that KuafuDet is scalable and can be highly effective as a standalone system.

연구 동기 및 목표

• 기계 학습 기반 악성 소프트웨어 탐지기의 학습 데이터를 조작함으로써 오염 공격을 통해 악성 소프트웨어 샘플을 제작할 수 있는지의 타당성을 조사한다.
• 낮음, 보통, 높음의 세 가지 다른 위협 모델(공격자의 공격 강도가 낮음, 보통, 높음) 하에서 오염 공격이 탐지 성능을 얼마나 떨어뜨리는지 분석한다.
• 모바일 악성 소프트웨어 탐지에서 적대적 학습 데이터 오염의 영향을 완화할 수 있는 확장성 있고 견고한 방어 기반을 설계한다.
• 실제 공격 환경에서의 오염 공격 조건 하에서 제안된 방어 기법이 거짓 음성 수를 줄이고 정확도를 향상시키는 효과를 평가한다.

제안 방법

• 특징 추출 및 모델 학습을 위한 오프라인 학습 단계와 실시간 분류를 위한 온라인 검출 단계로 구성된 이단계 시스템인 KuafuDet을 제안한다.
• 검출 단계에서 확인된 의심스러운 거짓 음성 결과를 다시 학습에 피드백하는 자가 적응 학습 기반을 도입하여 모델의 견고성을 향상시킨다.
• 악성 샘플이 잘못 분류되어 양성으로 간주된 것을 식별하고 걸러내기 위해 자동 캠oufl라 검출기를 활용하며, 이는 재학습 대상이 된다.
• 앱 기능을 유지하면서도 구문 수준의 특징 조작(특히 AndroidManifest.xml 및 Smali 파일 수정)을 적용한다.
• 세 가지 위협 모델 하에서 특징의 변형을 통제적으로 적용할 수 있는 맞춤형 적대적 제작 알고리즘을 적용하여 오염 샘플을 생성한다.
• 표준 분류기(SVM, 로지스틱 회귀, KNN 등)를 사용하고, 기울기 기반 적대적 편향 분석을 통해 견고성을 평가한다.

실험 결과

연구 질문

• RQ1 기계 학습 기반 악성 소프트웨어 탐지기인 Drebin, DroidAPIMiner, MaMaDroid와 같은 최신 기술에서 학습 데이터를 조작하는 오염 공격이 얼마나 성능 저하를 초래할 수 있는가?
• RQ2 공격자의 공격 강도(낮음, 보통, 높음) 수준이 다를 경우, 오염 공격의 성공률(오분류 비율 및 정확도 저하)에 어떤 영향을 미치는가?
• RQ3 거르기 전에 잘못 분류된 악성 샘플을 재학습하는 자가 적응 학습 기반은 적대적 환경에서 거짓 양성 및 거짓 음성 비율을 크게 줄일 수 있는가?
• RQ4 오염 공격 조건 하에서 KuafuDet은 기준 모델 대비 탐지 정확도를 얼마나 향상시키는가?

주요 결과

• 학습 세트에 조작된 악성 소프트웨어 샘플을 삽입하는 오염 공격는 모든 세 가지 위협 모델에서 정확도를 상당히 떨어뜨릴 수 있으며, 명백한 성능 저하가 관찰된다.
• 제안된 KuafuDet 방어 시스템은 오염 공격 조건 하에서 기준 모델 대비 최소 15% 이상 정확도를 향상시키며, 거짓 음성 수를 줄인다.
• 실제 앤드로이드 애플리케이션 25만 개 이상을 대상으로 한 실험을 통해 KuafuDet이 독립적인 탐지 시스템으로서 확장성과 효과성을 입증한다.
• 자신의 적응 학습 기반과 캠oufl라 검출기의 조합은 이전에 잘못 분류된 악성 샘플을 효과적으로 식별하고 재학습함으로써 모델의 견고성을 향상시킨다.
• 구문 특징만 제한적으로 조작된 상황에서도 오염 공격가 악성 앱의 오분류 비율을 높게 유지함으로써 현재 시스템의 취약성을 입증한다.
• KuafuDet은 이동식 악성 소프트웨어 탐지에서 적대적 오염 공격에 효과적으로 대응할 수 있는 첫 번째 방어 기반으로, 높은 확장성과 실제 적용 가능성을 유지한다.