[논문 리뷰] Binary Black-box Evasion Attacks Against Deep Learning-based Static Malware Detectors with Adversarial Byte-Level Language Model

Mohammadreza Ebrahimi, Ning Zhang외 3명|arXiv (Cornell University)|2020. 12. 14.

Adversarial Robustness in Machine Learning참고 문헌 30인용 수 19

한 줄 요약

이 논문은 바이너리 실행 파일의 바이트 수준 언어 모델을 학습하기 위해 순차적-순차적 RNN을 사용하여 악성 소프트웨어 변종을 생성하는 블랙박스 적대적 공격 프레임워크인 MalRNN을 제안한다. 모델 기울기, 신뢰도 점수, 또는 동적 분석을 요구하지 않으며, MalRNN은 8개의 악성 소프트웨어 카테고리에서 딥러닝 기반 악성 소프트웨어 검출기 3종을 성공적으로 회피하여 백도어 샘플에서 최대 54.28%의 회피율을 기록한다.

ABSTRACT

Anti-malware engines are the first line of defense against malicious software. While widely used, feature engineering-based anti-malware engines are vulnerable to unseen (zero-day) attacks. Recently, deep learning-based static anti-malware detectors have achieved success in identifying unseen attacks without requiring feature engineering and dynamic analysis. However, these detectors are susceptible to malware variants with slight perturbations, known as adversarial examples. Generating effective adversarial examples is useful to reveal the vulnerabilities of such systems. Current methods for launching such attacks require accessing either the specifications of the targeted anti-malware model, the confidence score of the anti-malware response, or dynamic malware analysis, which are either unrealistic or expensive. We propose MalRNN, a novel deep learning-based approach to automatically generate evasive malware variants without any of these restrictions. Our approach features an adversarial example generation process, which learns a language model via a generative sequence-to-sequence recurrent neural network to augment malware binaries. MalRNN effectively evades three recent deep learning-based malware detectors and outperforms current benchmark methods. Findings from applying our MalRNN on a real dataset with eight malware categories are discussed.

연구 동기 및 목표

• 모델 전용 지식이 필요 없이 딥러닝 기반 정적 악성 소프트웨어 검출기 대상으로 자동화된 블랙박스 회피 공격을 개발하기 위해.
• 기울기 정보, 신뢰도 점수 또는 동적 분석에 의존하는 기존 적대적 예제 생성 방법의 한계를 극복하기 위해.
• 원시 바이너리 시퀀스에 훈련된 생성형 RNN을 사용하여 대규모로 확장 가능한 회피 가능한 악성 소프트웨어 변종을 생성하기 위해.
• 실제 블랙박스 환경에서 추가적(추가) 공격에 대한 최신 딥러닝 기반 악성 소프트웨어 검출기의 취약성을 평가하기 위해.
• 딥러닝 기반 악성 소프트웨어 방어 시스템의 강건성 향상을 위한 재현 가능하고 오픈소스 도구를 제공하기 위해.

제안 방법

• MalRNN은 원시 악성 소프트웨어 바이너리 데이터에서 직접 바이트 수준 언어 모델을 학습하기 위해 순차적-순차적 순환 신경망(RNN)을 활용한다.
• 이 모델은 원래 악성 소프트웨어 바이너리에 추가될 수 있는 악성 소프트웨어처럼 보이는 바이트 시퀀스를 생성하도록 훈련된다.
• 공격은 순전히 블랙박스이다: 대상 검출기의 아키텍처, 파라미터, 또는 신뢰도 점수에 접근할 필요가 없다.
• 이 방법은 RNN의 생성 능력을 활용하여 기능을 유지하면서도 탐지 회피를 가능하게 하는 변형을 생성한다.
• MalRNN은 실제 세계 데이터셋(8개의 악성 소프트웨어 카테고리)을 사용하여 평가되었으며, 세 가지 최신 딥러닝 기반 검출기의 탐지율을 기반으로 회피 성공률을 측정하였다.
• 이 방법은 정적 바이너리 표현과 시퀀스 모델링에만 의존하여 동적 분 析를 피한다.

실험 결과

연구 질문

• RQ1 모델 내부 파rameter나 신뢰도 점수에 접근할 수 없더라도 딥러닝 생성 모델이 효과적인 적대적 바이트 시퀀스를 학습하여 악성 소프트웨어 회피를 가능하게 할 수 있는가?
• RQ2 순차적-순차적 RNN 기반 언어 모델은 다양한 악성 소프트웨어 가족 전반에서 회피 가능한 악성 소프트웨어 변종을 얼마나 효과적으로 생성할 수 있는가?
• RQ3 예를 들어 랜섬웨어, 백도어, 드롭퍼 등 다양한 악성 소프트웨어 유형은 블랙박스 추가 기반 적대적 공격에 대해 어느 정도 취약한가?
• RQ4 최소한의 추가 바이트(낮은 변형 비용)로 기존 벤치마크 방법보다 높은 회피율을 달성할 수 있는가?
• RQ5 이 방법은 재훈련 없이도 여러 딥러닝 기반 악성 소프트웨어 검출기로 일반화될 수 있는가?

주요 결과

• MalRNN은 모델 전용 정보가 없이도 모든 8개의 악성 소프트웨어 카테고리에서 세 가지 최신 딥러닝 기반 악성 소프트웨어 검출기를 성공적으로 회피하였다.
• 백도어 악성 소프트웨어에서 가장 높은 회피율(54.28%)을 기록하여, 이러한 유형의 악성 소프트웨어가 높은 비율의 양성 코드를 포함하고 있어 적대적 추가 공격에 더 취약하다는 점을 시사한다.
• 랜섬웨어와 봇넷 악성 소프트웨어는 각각 29.33%와 23.57%의 가장 낮은 회피율을 보였는데, 이는 딥러닝 모델이 쉽게 탐지할 수 있는 특징적인 악성 코드 구조를 지니고 있기 때문일 것이다.
• MalRNN은 기존의 벤치마크 방법보다 회피 효과성에서 뛰어나, 히ュ리스틱 또는 브루트포스 방법보다 학습된 생성형 접근 방식의 우수성을 입증한다.
• 낮은 변형 비용으로도 높은 회피율을 달성하여 생성된 바이트 시퀀스가 효과적이면서도 도드라지지 않음을 시사한다.
• 결과적으로 딥러닝 기반 악성 소프트웨어 검출기가 모델 내부 정보나 신뢰도 점수에 접근할 수 없더라도 블랙박스 적대적 공격에 취약하다는 점을 확인하였다.