[논문 리뷰] Towards Adversarial Malware Detection: Lessons Learned from PDF-based Attacks

Davide Maiorca, Battista Biggio외 1명|arXiv (Cornell University)|2018. 11. 02.

Advanced Malware Detection Techniques참고 문헌 84인용 수 40

한 줄 요약

PDF 기반 악성코드 탐지기에 대한 적대적 위협의 조사로, PDF 악성코드의 분류 체계, 학습 기반 탐지기, 공격 벡터, 및 방어 방향을 제공한다.

ABSTRACT

Malware still constitutes a major threat in the cybersecurity landscape, also due to the widespread use of infection vectors such as documents. These infection vectors hide embedded malicious code to the victim users, facilitating the use of social engineering techniques to infect their machines. Research showed that machine-learning algorithms provide effective detection mechanisms against such threats, but the existence of an arms race in adversarial settings has recently challenged such systems. In this work, we focus on malware embedded in PDF files as a representative case of such an arms race. We start by providing a comprehensive taxonomy of the different approaches used to generate PDF malware, and of the corresponding learning-based detection systems. We then categorize threats specifically targeted against learning-based PDF malware detectors, using a well-established framework in the field of adversarial machine learning. This framework allows us to categorize known vulnerabilities of learning-based PDF malware detectors and to identify novel attacks that may threaten such systems, along with the potential defense mechanisms that can mitigate the impact of such threats. We conclude the paper by discussing how such findings highlight promising research directions towards tackling the more general challenge of designing robust malware detectors in adversarial settings.

연구 동기 및 목표

• PDF 파일이 악성 감염 벡터로 어떻게 사용되는지 특징짓고 이것이 탐지기에게 왜 도전적인지 설명한다.
• 최신의 학습 기반 PDF 악성코드 탐지기와 그들의 일반적인 아키텍처를 조사한다.
• 학습 기반 PDF 탐지기를 대상으로 하는 적대적 공격의 분류 체계를 제시하고 취약점을 분석한다.
• 적대적 환경에서 강인성을 향상시키기 위한 잠재적 방어책과 연구 방향을 식별한다.
• 악성코드 탐지 시스템에서 보안 설계 원칙(보안-by-design)을 촉진한다.

제안 방법

• PDF 악성코드 생성 방법과 대응하는 학습 기반 탐지기의 포괄적 분류 체계를 제공한다.
• ML 기반 탐지기의 3구성요소 아키텍처를 설명한다: 전처리, 특징 추출, 그리고 분류기.
• 타사 및 사용자 정의 전처리 파서와 그 기능을 검토한다.
• 탐지기 특징을 구조적, JavaScript 기반, 원시 바이트 카테고리로 분류하고 이를 탐지기에 매핑한다.
• PDF 탐지기에 대한 알려진 적대적 공격 전략을 종합하고 실제 구현에 대해 논의한다.
• 강건하고 적대적 의식이 있는 악성코드 탐지기를 위한 방어 메커니즘과 향후 연구 방향을 개요한다.

실험 결과

연구 질문

• RQ1 wild에서 사용되는 주요 PDF 기반 악성코드 기술은 무엇이며 탐지기는 이를 방어하기 위해 어떻게 진화해 왔는가?
• RQ2 학습 기반 PDF 탐지기에 존재하는 회피 공격 취약점은 무엇인가?
• RQ3 탐지기 설계를 어떻게 개선하여 적대적 조작을 견디면서 탐지 성능을 유지할 수 있는가?
• RQ4 PDF 악성코드 탐지기에 대한 적대적 공격을 완화하는 데 잠재력이 있는 방어 전략은 무엇인가?
• RQ5 적대적 환경에서 강건한 악성코드 탐지를 위해 어떤 연구 방향이 등장하는가?

주요 결과

• PDF 악성코드는 세 가지 주요 채널: JavaScript 기반, ActionScript 기반, 파일 임베딩을 악용하며, 역사적으로 JavaScript 기반 공격이 가장 흔하다.
• 정적 또는 동적 전처리, 다양한 특징 유형, 그리고 분류기를 포함하는 다양한 탐지기 아키텍처가 존재하지만, 모두 기계 학습 기반에 의존한다.
• 공격자와 방어자 간에 두드러진 무장 경쟁이 있으며, 공격자들은 파서 취약점과 난독화를 점점 더 활용하여 탐지기를 회피한다.
• 적대적 공격은 전처리 파서, 특징 추출기, 그리고 분류기 등 다양한 구성 요소를 목표로 하여 큰 코드 변경 없이 탐지를 회피할 수 있다.
• 타사 파서에 의존하는 경우가 흔하지만 보안성과 강인성과 관련된 우려를 야기한다; 그러나 어떤 파서도 모든 PDF 요소를 완전하게 커버하지 못하여 exploitable gaps가 존재한다.
• 이 연구는 보안 설계 원칙(Sec-by-Design)을 더 강건한 악성코드 탐지기 구축의 방향으로 제시하고 향후 방어 방향을 개략한다.