[논문 리뷰] Adversarial Malware Binaries: Evading Deep Learning for Malware Detection in Executables

Bojan Kolosnjaji, Ambra Demontis외 5명|arXiv (Cornell University)|2018. 03. 12.

Advanced Malware Detection Techniques인용 수 4

한 줄 요약

이 논문은 포트러블 실행 파일(PE) 파일의 끝부분에 최적화된 패딩 바이트를 삽입하여 악성 소프트웨어 바이너리의 1퍼센트 미만 바이트를 수정함으로써 딥러닝 기반 악성코드 검출기의 탐지를 회피하는 기울기 기반의 대비 공격을 제안한다. 이 방법은 MalConv에 대해 60퍼센트의 회피율을 달성하며, 원시 바이트 모델이 미세한, 기능을 유지하는 변형에 매우 취약하다는 것을 보여준다.

ABSTRACT

Machine-learning methods have already been exploited as useful tools for detecting malicious executable files. They leverage data retrieved from malware samples, such as header fields, instruction sequences, or even raw bytes, to learn models that discriminate between benign and malicious software. However, it has also been shown that machine learning and deep neural networks can be fooled by evasion attacks (also referred to as adversarial examples), i.e., small changes to the input data that cause misclassification at test time. In this work, we investigate the vulnerability of malware detection methods that use deep networks to learn from raw bytes. We propose a gradient-based attack that is capable of evading a recently-proposed deep network suited to this purpose by only changing few specific bytes at the end of each malware sample, while preserving its intrusive functionality. Promising results show that our adversarial malware binaries evade the targeted network with high probability, even though less than 1% of their bytes are modified.

연구 동기 및 목표

• 원시 바이트에 기반한 딥러닝 모델이 악성코드 탐지에 대해 대비 공격에 얼마나 취약한지 조사하기 위해.
• 탐지 회피가 가능한 실용적이고 기능 유지가 가능한 악성코드 바이너리 생성 방법을 개발하기 위해.
• 기울기 기반 최적화가 악성코드 탐지 회피 확률을 최대화하는 데 효과적으로 작용할 수 있는지 평가하기 위해.
• MalConv를 회피하는 데 있어 기울기 기반 공격과 무작위 바이트 삽입 간의 효과성을 비교하기 위해.
• 원시 바이트 분석의 한계를 부각하고, 더 강력한 탐지 방법론을 권장하기 위해.

제안 방법

• 공격은 악성코드 샘플이 악성으로 분류되는 것보다 양성으로 분류될 확률을 최대화하기 위해 입력 바이트에 대한 기울기 상승을 사용한다.
• 기능적 완전성을 유지하기 위해 오직 PE 파일 끝에 추가된 패딩 바이트만 대상으로 삼는다.
• 손실 함수에 대한 입력 바이트의 기울기를 계산하고, 반복적으로 패딩 바이트를 업데이트하여 오분류를 극대화한다.
• 이 공격은 원시 바이너리 바이트에 기반해 훈련된 딥 네트워크인 MalConv에 적용된다.
• 공격의 효과는 각 악성코드 샘플에 10,000개의 최적화된 바이트를 삽입하고 회피율을 측정함으로써 평가된다.
• 비교를 위해 기준 무작위 바이트 삽입 공격이 사용되며, 이는 기울기 기반 방법의 우수성을 입증하기 위함이다.

실험 결과

연구 질문

• RQ1 원시 바이트 시퀀스를 기반으로 훈련된 딥러닝 모델이 PE 파일의 소수의 기능 유지가 가능한 수정을 통해 회피될 수 있는가?
• RQ2 MalConv를 회피하기 위해 기울기 기반 최적화 전략이 얼마나 효과적으로 악성코드 패딩 바이트를 생성하는가?
• RQ3 기울기 기반 공격이 악성코드 탐지 회피에 있어 무작위 바이트 삽입보다 뚜렷하게 뛰어나게 작용하는가?
• RQ4 파일의 앞부분과 뒷부분의 바이트를 수정할 경우 공격 성공에 어떤 영향을 미치는가?
• RQ5 다양한 악성코드 샘플에 대해 기능 유지가 가능한 상태에서 공격이 일반화될 수 있는가?

주요 결과

• 기울기 기반 공격은 10,000개의 최적화된 패딩 바이트를 삽입했을 때 MalConv에 대해 60퍼센트의 회피율을 달성했으며, 이는 입력 파일 크기의 1퍼센트 미만에 해당한다.
• 공격는 무작위 바이트 삽입보다 뚜렷하게 뛰어난 성능을 보였으며, 무작위 삽입은 모델의 회피에 거의 효과가 없었다.
• 기울기 기반 공격에서 삽입된 바이트의 분포는 일관되고 비랜덤한 패턴을 보이며, 이는 모델 기울기에 의해 이끌린 타겟팅된 조작임을 시사한다.
• 기울기 노름은 파일의 앞부분에 가까운 바이트에서 훨씬 더 높았으며, 이는 초기 바이트를 수정하면 더 높은 회피 성공 가능성이 있음을 시사하지만, 기능 손상 위험이 높다는 점을 감안해야 한다.
• 결과적으로 원시 바이트 기반 딥러닝 모델은 조작이 비침습적인 영역(예: 파일 패딩)에 국한된 경우에도 대비 예측에 매우 취약하다는 점을 시사한다.
• 본 연구는 악성코드 탐지에 있어 대비 조작을 고려하고 바이너리 형식의 구조적 지식을 통합하는 더 강력한 탐지 방법론의 필요성을 강조한다.