[논문 리뷰] Automatic Generation of Adversarial Examples for Interpreting Malware Classifiers.

Wei Song, Xuezixiang Li외 4명|arXiv (Cornell University)|2020. 03. 06.

Advanced Malware Detection Techniques참고 문헌 52인용 수 21

한 줄 요약

이 논문은 코드 랜덤화와 바이너리 조작을 조합하여 실제 악성 소프트웨어 방지 시스템을 회피하는 현실적인 대비 악성코드 예제를 생성하는 프레임워크를 제안한다. 정적 검출기의 24.3%~41.9%의 악성코드 샘플이 정적 검출기에서 회피됨을 입증하였으며, 일부 경우에서는 단 한 바이트의 변경만으로도 회피가 가능했고, 일부 정적 회피 기법은 오프라인 동적 분석까지도 회피함을 보여주어 상용 AV의 심각한 취약점을 드러냈다.

ABSTRACT

Recent advances in adversarial attacks have shown that machine learning classifiers based on static analysis are vulnerable to adversarial attacks. However, real-world antivirus systems do not rely only on static classifiers, thus many of these static evasions get detected by dynamic analysis whenever the malware runs. The real question is to what extent these adversarial attacks are actually harmful to the real users? In this paper, we propose a systematic framework to create and evaluate realistic adversarial malware to evade real-world systems. We propose new adversarial attacks against real-world antivirus systems based on code randomization and binary manipulation, and use our framework to perform the attacks on 1000 malware samples and test four commercial antivirus software and two open-source classifiers. We demonstrate that the static detectors of real-world antivirus can be evaded 24.3%-41.9% of the cases and often by changing only one byte. We also find that the adversarial attacks are transferable between different antivirus up to 16% of the cases. We also tested the efficacy of the complete (i.e. static + dynamic) classifiers in protecting users. While most of the commercial antivirus use their dynamic engines to protect the users' device when the static classifiers are evaded, we are the first to demonstrate that for one commercial antivirus, static evasions can also evade the offline dynamic detectors and infect users' machines. Our framework can also help explain which features are responsible for evasion and thus can help improve the robustness of malware detectors.

연구 동기 및 목표

• 정적 분석을 초월하여 악성코드 분류기의 실제 세계에서의 효과성을 평가하는 것.
• 상용 악성 소프트웨어 방지 시스템에서 정적 및 동적 분석을 모두 회피하는 대비 악성코드를 생성하기 위한 체계적인 프레임워크를 개발하는 것.
• 정적 분류기용으로 제작된 대비 예제가 동적 분석 엔진까지도 회피할 수 있는지 조사하는 것.
• 악성코드 분류기의 회피에 가장 기여하는 기능을 특정하여 검출기의 강건성 향상에 기여하는 것.

제안 방법

• 프레임워크는 1,000개의 실제 악성코드 샘플에 코드 랜덤화와 바이너리 조작을 적용하여 대비 악성코드를 생성한다.
• 생성된 대비 예제는 네 대의 상용 악성 소프트웨어 방지 엔진과 두 개의 오픈소스 분류기에서 평가된다.
• 이 접근법은 功能 유지와 함께 검출을 회피하기 위해 최소한의 코드 변경(예: 단일 바이트 변경)에 중점을 둔다.
• 다양한 악성 소프트웨어 방지 시스템 간 대비 예제의 이식성은 여러 엔진에서의 회피 성공률을 측정하여 평가된다.
• 기여도 기반 기법을 사용하여 회피 성공에 가장 기여하는 코드 수준 기능을 특정한다.

실험 결과

연구 질문

• RQ1 바이너리 조작을 통해 생성된 대비 악성코드가 얼마나 실제 상용 악성 소프트웨어 방지 시스템을 회피할 수 있는가?
• RQ2 정적 분석을 회피하는 대비 예제가 상용 악성 소프트웨어 방지 엔진의 오프라인 동적 분석까지도 회피할 수 있는가?
• RQ3 다른 악성 소프트웨어 방지 검출 시스템 간 대비 예제의 이식성은 어느 정도인가?
• RQ4 어떤 코드 수준 기능이 악성코드 분류기의 회피에 가장 영향을 미치는가?

주요 결과

• 제안된 대비 공격은 실제 상용 악성 소프트웨어 방지 시스템의 정적 검출기에서 24.3%~41.9%의 경우에서 성공적으로 회피하였다.
• 일부 사례에서는 단 한 바이트의 수정만으로도 검출을 회피할 수 있었으며, 이는 현재 정적 분석의 취약성을 드러냈다.
• 대비 예제는 최대 16%의 경우에서 서로 다른 악성 소프트웨어 방지 엔진 간 이식성이 있었으며,
• 일부 상용 악성 소프트웨어 제품은 정적 분류기가 회피되었음에도 불구하고, 오프라인 동적 엔진까지도 악성코드를 감지하지 못했다.
• 프레임워크를 통해 회피에 기여하는 핵심 기능을 특정할 수 있었으며, 이는 검출기의 강건성 향상에 통찰을 제공한다.