[논문 리뷰] Optimization-Guided Binary Diversification to Mislead Neural Networks for Malware Detection

Mahmood Sharif, Keane Lucas외 3명|arXiv (Cornell University)|2019. 12. 19.

Advanced Malware Detection Techniques참고 문헌 84인용 수 14

한 줄 요약

이 논문은 기능적 지시어를 수정하여 딥 뉴럴 네트워크(DNN) 기반 악성 소프트웨어 검출기에서 탐지되는 것을 방지하면서도 기능을 유지하는 최적화 유도 이진 분할 공격을 제안한다. 이 방법은 화이트박스 및_BLK박스 환경에서 거의 100%의 탈출 성공률를 기록하며, 상용 악성코드 방지 소프트웨어의 85%에서 성공을 거두어 DNN 기반 검출 시스템의 심각한 취약성을 드러낸다.

ABSTRACT

Motivated by the transformative impact of deep neural networks (DNNs) on different areas (e.g., image and speech recognition), researchers and anti-virus vendors are proposing end-to-end DNNs for malware detection from raw bytes that do not require manual feature engineering. Given the security sensitivity of the task that these DNNs aim to solve, it is important to assess their susceptibility to evasion. In this work, we propose an attack that guides binary-diversification tools via optimization to mislead DNNs for malware detection while preserving the functionality of binaries. Unlike previous attacks on such DNNs, ours manipulates instructions that are a functional part of the binary, which makes it particularly challenging to defend against. We evaluated our attack against three DNNs in white-box and black-box settings, and found that it can often achieve success rates near 100%. Moreover, we found that our attack can fool some commercial anti-viruses, in certain cases with a success rate of 85%. We explored several defenses, both new and old, and identified some that can successfully prevent over 80% of our evasion attempts. However, these defenses may still be susceptible to evasion by adaptive attackers, and so we advocate for augmenting malware-detection systems with methods that do not rely on machine learning.

연구 동기 및 목표

• 기능을 유지하는 공격이 가능한 딥 뉴럴 네트워크(DNN) 기반 악성코드 검출기의 취약성을 조사하기 위해.
• 유해하거나 비필수 코드가 아닌 기능적 지시어를 수정함으로써, 프로그램 동작을 유지하면서도 탐지 회피를 달성하는 공격을 개발하기 위해.
• 화이트박스 및 블랙박스 환경에서의 공격 효과성을 평가하고, 실제 상용 악성코드 방지 소프트웨어를 포함한 실제 환경을 대상으로 하기 위해.
• 기존 및 신규 방어 기법이 제안된 공격에 대해 얼마나 효과적인지 평가하고 현재 방어 전략의 한계를 규명하기 위해.
• 기계 학습 기반 방어 전략이 적응형 공격에 취약하므로 악성코드 검출 시스템에서 기계 학습 의존도를 줄이기 위한 권고를 위해.

제안 방법

• 기계어의 지시어 수준 수정을 모델링하기 위해 미분 가능한 이진 표현을 활용하여 기울기 기반 최적화를 가능하게 한다.
• 기울기 유도 최적화 과정을 통해 DNN의 오분류를 극대화하면서도 기능적 정확성을 유지하는 이진 수정을 생성한다.
• 수정된 이진 파일이 테스트 케이스 전반에서 원래 동작을 유지하는지 확인하기 위해 기능적 동치성 검사기를 적용한다.
• DNN 오분류를 유도하기 위한 적대적 손실과 프로그램 동작을 유지하기 위한 기능 유사도 손실을 조합한 손실 함수를 사용한다.
• 최적화된 지시어 수준 변환(예: 지시어 재정렬, 의미적으로 동일한 옵코드로 대체)을 적용하는 이진 분할 엔진을 통합한다.
• 악성코드 검출을 위한 세 가지 서로 다른 DNN 아키텍처를 사용하여 화이트박스(모델 전체 접근 가능) 및 블랙박스(질의 기반) 환경에서 공격을 평가한다.

실험 결과

연구 질문

• RQ1 기능적 지시어 수준의 수정이 프로그램 동작을 변경하지 않고 DNN 기반 악성코드 검출기를 회피할 수 있는가?
• RQ2 기존의 탈출 기법과 비교해 볼 때, 제안된 최적화 유도 공격은 화이트박스 및 블랙박스 환경에서 얼마나 효과적인가?
• RQ3 이 공격은 DNN 또는 시그니처 기반 검출에 훈련된 상용 악성코드 방지 소프트웨어를 얼마나 효과적으로 우회할 수 있는가?
• RQ4 기존 및 신규 방어 기법 중 이 지시어 수준의 적대적 변형에 대해 효과적인 것은 무엇인가?
• RQ5 적응형 기능적 지시어 기반 공격에 직면했을 때 현재 방어 메커니즘의 한계는 무엇인가?

주요 결과

• 제안된 공격은 세 가지 DNN 모델에 대해 화이트박스 및 블랙박스 평가에서 거의 100%의 탈출 성공률를 기록했다.
• 공격은 테스트된 케이스의 85%에서 상용 악성코드 방지 소프트웨어를 성공적으로 우회하여 실제 적용 가능성과 실용성을 입증했다.
• 입력 변환 또는 이방성 감지에 의존하는 방어 기법은 80% 이상의 탈출 시도를 차단했지만, 적응형 공격자에게는 여전히 취약했다.
• 공격의 성공은 기능적 지시어만 수정하기 때문에, 기존 정적 분석 또는 히وري스틱 기반 방어 기법으로는 감지하기 어려웠다.
• 강력한 방어 기법이 존재하더라도 공격의 높은 성공률는 기계 학습 기반 악성코드 검출 시스템이 고도로 정교한 적대적 조작에 본질적으로 취약하다는 것을 시사한다.
• 결과적으로 기계 학습 기반 보안 시스템, 특히 악성코드 검출 시스템에서의 기계 학습 의존도를 재고할 필요가 있음을 강조한다.