[논문 리뷰] Short Paper: Creating Adversarial Malware Examples using Code Insertion.

Daniel Park, Haidar Khan외 1명|arXiv (Cornell University)|2019. 04. 09.

Adversarial Robustness in Machine Learning참고 문헌 3인용 수 4

한 줄 요약

이 논문은 컨volutional 신경망 기반 악성코드 분류기의 탐지를 피하기 위해 오브스큐레이션된 코드를 삽입함으로써 악성코드를 생성하는 생성 모델을 제안한다. 기능을 유지하면서 탐지의 대상이 되지 않도록 함으로써, 이 방법은 화이트박스 환경에서 100%의 오분류율을 달성하고 블랙박스 환경에서는 98%의 오분류율을 기록하여 높은 전이성과 일반적인 방어 전략에 대한 저항성을 입증한다.

ABSTRACT

There has been an increased interest in the application of convolutional neural networks for image based malware classification, but the susceptibility of neural networks to adversarial examples allows malicious actors to evade classifiers. Adversarial examples are usually generated by adding small perturbations to the input that are unrecognizable to humans, but the same approach is not effective with malware. In general, these perturbations cause changes in the byte sequences that change the initial functionality or result in un-executable binaries. We present a generative model for executable adversarial malware examples using obfuscation that achieves a high misclassification rate, up to 100% and 98% in white-box and black-box settings respectively, and demonstrates transferability. We further evaluate the effectiveness of the proposed method by reporting insignificant change in the evasion rate of our adversarial examples against popular defense strategies.

연구 동기 및 목표

• 딥 러닝 기반 악성코드 분류기의 바이너리 도메인에서의 악성 예외에 대한 취약성을 해결하기 위해.
• 기존의 악성 변형 기법이 자주 바이너리 실행 가능성을 손상하거나 기능을 변경시키는 한계를 극복하기 위해.
• 기능을 유지하면서 오브스큐레이션을 통해 탐지를 회피하는 생성적 접근법을 개발하기 위해.
• 일반적인 방어 메커니즘에 대해 생성된 악성 예외의 전이성과 강건성을 평가하기 위해.

제안 방법

• 이 방법은 기존 기능을 유지하면서 합법적인 바이너리에 오브스큐레이션된 코드 조각을 삽입하여 악성코드를 생성한다.
• 이를 위해 분류기를 최대한 혼란스럽게 만들지만 바이너리 실행 가능성을 유지하도록 훈련된 생성 모델을 사용한다.
• 이 방법은 화이트박스 및 블랙박스 환경 모두에서 작동하며, 대상 모델의 동작에 맞게 적응한다.
• 오브스큐레이션 기법을 활용하여 변형이 의미 있는 문맥을 유지하고 프로그램 실행에 영향을 주지 않도록 보장한다.
• 대상 분류기의 오분류율을 최대화하도록 모델을 최적화한다.
• 전이성을 평가하기 위해 동일한 악성 예외를 다른 알려지지 않은 모델들에 대해 테스트한다.

실험 결과

연구 질문

• RQ1 오브스큐레이션 기반 코드 삽입이 딥 러닝 기반 악성코드 분류기를 회피하는 악성코드를 생성할 수 있는가?
• RQ2 이 방법은 화이트박스 및 블랙박스 환경에서 오분류율 측면에서 얼마나 효과적인가?
• RQ3 이러한 악성 예외는 다양한 모델들 간에 얼마나 잘 전이되는가?
• RQ4 이러한 악성 예외는 일반적인 방어 전략에 대해 얼마나 강건한가?

주요 결과

• 제안된 방법은 화이트박스 환경에서 100%의 오분류율을 달성하여 대상 분류기의 완전한 회피를 입증한다.
• 블랙박스 환경에서는 98%의 오분류율을 기록하여 강력한 일반화 및 전이성을 보여준다.
• 삽입된 코드가 원래 동작을 방해하지 않기 때문에 악성 예외는 높은 기능성과 실행 가능성을 유지한다.
• 일반적인 방어 전략 하에서도 탐지율이 유의미하게 높지 않아 알려진 완화 기법에 대한 저항성을 보여준다.
• 기존의 변형 기반 접근법과 달리, 이 방법은 의미적으로 유효하고 실행 가능한 악성 예외를 성공적으로 생성한다.
• 다양한 모델들 간의 전이성이 확인되어 실제 환경에서의 활용 잠재력이 있음을 시사한다.