[논문 리뷰] PAD: Towards Principled Adversarial Malware Detection Against Evasion Attacks

Deqiang Li, Shicheng Cui외 4명|arXiv (Cornell University)|2023. 02. 22.

Advanced Malware Detection Techniques인용 수 4

한 줄 요약

PAD는 이산적 변형을 정량화하기 위한 학습 가능한 볼록 측정을 사용하여 원칙적인 적으로 악성 소프트웨어 탐지 프레임워크를 제안하며, 이로 인해 이론적으로 보장된 강건한 최적화가 가능해진다. 이는 27개의 회피 공격에 대해 83.45% 이상의 탐지 정확도를 달성하면서도 정상 환경에서 정확도 저하가 2.16% 미만으로 발생하는 것으로, 최신 기법들을 능가한다.

ABSTRACT

Machine Learning (ML) techniques can facilitate the automation of malicious software (malware for short) detection, but suffer from evasion attacks. Many studies counter such attacks in heuristic manners, lacking theoretical guarantees and defense effectiveness. In this paper, we propose a new adversarial training framework, termed Principled Adversarial Malware Detection (PAD), which offers convergence guarantees for robust optimization methods. PAD lays on a learnable convex measurement that quantifies distribution-wise discrete perturbations to protect malware detectors from adversaries, whereby for smooth detectors, adversarial training can be performed with theoretical treatments. To promote defense effectiveness, we propose a new mixture of attacks to instantiate PAD to enhance deep neural network-based measurements and malware detectors. Experimental results on two Android malware datasets demonstrate: (i) the proposed method significantly outperforms the state-of-the-art defenses; (ii) it can harden ML-based malware detection against 27 evasion attacks with detection accuracies greater than 83.45%, at the price of suffering an accuracy decrease smaller than 2.16% in the absence of attacks; (iii) it matches or outperforms many anti-malware scanners in VirusTotal against realistic adversarial malware.

연구 동기 및 목표

• 기본적으로 히وري스틱한 적대적 훈련에 의존하는 기존의 적대적 악성 소프트웨어 탐지 방법에서 이론적 보장을 부족하게 하는 문제를 해결하기 위해.
• 적대적 훈련 중 내부 최대화와 외부 최소화 단계에서의 수렴을 보장함으로써 특징 공간과 문제 공간 간의 강건성 격차를 해소하기 위해.
• 딥 뉴럴 네트워크 기반 악성 소프트웨어 탐지기의 특성에 맞게 설계된 새로운 종류의 회피 공격 혼합을 통해 방어 효과를 향상시키기 위해.
• 정상 조건과 적대적 조건 모두에서 높은 탐지 정확도를 유지할 수 있는 원칙적이고 검증 가능한 방어 프레임워크를 개발하기 위해.
• 기존의 부드러움 가정이 성립하지 않을 수 있는 이산적 악성 소프트웨어 표현 공간에서 강건성에 대한 공식적 다루기 가능성을 제공하기 위해.

제안 방법

• 악성 소프트웨어 표현 내에서 분포 기반 이산적 변형을 정량화하기 위해 학습 가능한 볼록 측정을 도입하여 이론적 수렴 보장을 가능하게 한다.
• 내부 최대화(적대적 예제 생성)와 외부 최소화(모델 훈련) 단계가 모두 이론적으로 기반을 두고 있는 최소-최대 적대적 훈련 프레임워크를 적용한다.
• 악성 소프트웨어 탐지에 특화된 회피 공격 혼합을 사용하여 PAD 프레임워크를 구현하고 강건성을 향상시킨다.
• 외부 최소화 단계에서 기울기 기반 수렴을 보장하기 위해 부드러운 딥 뉴럴 네트워크(DNN)를 활용하여 안정적인 최적화를 촉진한다.
• 기본 악성 소프트웨어 탐지기와 보조 적대적 예제 식별기로 구성된 이중 탐지 메커니즘을 설계하며, 이는 동일한 원칙적 프레임워크 하에 훈련된다.
• 볼록성과 부드러움에 기반한 이론적 분석을 적용하여 특징 공간에서 확보한 강건성이 문제 공간으로 효과적으로 전파되도록 보장한다.

실험 결과

연구 질문

• RQ1 학습 가능한 볼록 측정을 사용하여 이산적 악성 소프트웨어 표현 공간에서 적대적 훈련을 공식화하고, 수렴 보장을 할 수 있는가?
• RQ2 어떻게 다양한 악성 소프트웨어 탐지에 특화된 회피 공격 혼합을 설계하여 적대적 훈련을 효과적으로 구현하고 강건성을 향상시킬 수 있는가?
• RQ3 제안된 프레임워크는 다양한 종류의 회피 공격에 대응하면서도 정상 데이터에서 탐지 정확도를 얼마나 유지하는가?
• RQ4 특징 공간에서 확보한 강건성이 실제 악성 소프트웨어 탐지 작업으로 효과적으로 전파되어 이전 연구에서 관찰된 강건성 격차를 방지할 수 있는가?
• RQ5 부드럽고 볼록한 DNN의 사용이 적대적 악성 소프트웨어 탐지에서 안정적이고 이론적으로 탄탄한 최적화를 가능하게 하는가?

주요 결과

• PAD 프레임워크는 27개의 서로 다른 회피 공격에 대해 83.45% 이상의 탐지 정확도를 달성하며, 최신 기법들을 크게 능가한다.
• 공격이 없는 상황에서는 정확도 저하가 2.16% 미만으로 발생하여 성능 저하가 최소한임을 보여준다.
• 실제 적대적 악성 소프트웨어 샘플을 기반으로 VirusTotal에서 평가했을 때, 여러 상용 백신 스캐너의 탐지 성능과 동등하거나 이를 초월한다.
• 내부 최대화(적대적 예제 탐색)와 외부 최소화(모델 훈련) 단계 모두에 대해 이론적 수렴 보장을 달성한다.
• 볼록 측정의 사용으로 특징 공간에서의 강건성이 문제 공간으로 효과적으로 전파되어 이전 연구에서 관찰된 강건성 격차를 완화한다.
• 적대적 훈련에 사용된 공격 혼합은 모델이 다양한 회피 전략, 특히 실용적인 전략에 대해 일반화 능력을 향상시킨다.