[논문 리뷰] PDF-Malware: An Overview on Threats, Detection and Evasion Attacks

N. Fleury, Theo Dubrunquez외 1명|arXiv (Cornell University)|2021. 07. 27.

Advanced Malware Detection Techniques참고 문헌 30인용 수 10

한 줄 요약

이 논문은 PDF 악성 소프트웨어 위협, 특히 기계 학습 기반 접근 방식을 포함한 탐지 기술과 새로운 도전 과제인 회피 공격에 대한 종합적인 개요를 제공한다. 비기능적 객체를 악성 PDF에 추가함으로써 최신 기술 기반 분류기의 98% 이상를 회피할 수 있음을 입증하며, 공격자 조작에 대한 내성을 높이기 위해 정적, 동적, 하드웨어 기반 특징을 융합한 강력한 하이브리드 탐지 모델의 필요성을 강조한다.

ABSTRACT

In the recent years, Portable Document Format, commonly known as PDF, has become a democratized standard for document exchange and dissemination. This trend has been due to its characteristics such as its flexibility and portability across platforms. The widespread use of PDF has installed a false impression of inherent safety among benign users. However, the characteristics of PDF motivated hackers to exploit various types of vulnerabilities, overcome security safeguards, thereby making the PDF format one of the most efficient malicious code attack vectors. Therefore, efficiently detecting malicious PDF files is crucial for information security. Several analysis techniques has been proposed in the literature, be it static or dynamic, to extract the main features that allow the discrimination of malware files from benign ones. Since classical analysis techniques may be limited in case of zero-days, machine-learning based techniques have emerged recently as an automatic PDF-malware detection method that is able to generalize from a set of training samples. These techniques are themselves facing the challenge of evasion attacks where a malicious PDF is transformed to look benign. In this work, we give an overview on the PDF-malware detection problem. We give a perspective on the new challenges and emerging solutions.

연구 동기 및 목표

• 형식의 안전성으로 인식되는 경향과 광범위한 사용으로 인해 증가하는 PDF 악성 소프트웨어 위협을 분석하기 위해.
• 정적, 동적, 기계 학습 기반 방법을 포함한 기존 탐지 기술을 조사하기 위해.
• 기계 학습 기반 PDF 악성 소프트웨어 탐지기가 비기능적 요소 수정을 통한 회피 공격에 얼마나 취약한지 조사하기 위해.
• 대응 조치로 악성 공격에 대한 훈련 및 특징 강화를 제안하고, 하이브리드 탐지 모델을 탐색하기 위해.
• 진화하는 악성 PDF에 대응하기 위해 탐지기의 강성 향상에 대한 연구적 시각을 제공하기 위해.

제안 방법

• PDFiD를 활용한 정적 분석을 통해 객체 수, 참조 테이블 크기, 스트림 내용 등의 특징을 추출하여 분류기 훈련에 사용하였다.
• 20,000개 샘플(10,000개의 정상, 10,000개의 악성) 데이터셋을 기반으로 SVM를 훈련하여 99.60% 정확도와 0.05% 위양성률을 달성하였다.
• 백색 상자 공격을 구현하기 위해 악성 PDF에 빈 객체를 삽입하여 기능적 특성 값(예: 객체 수)을 증가시키되, 시각적 또는 행동적 출력에는 영향을 주지 않았다.
• 기울기 강하 기반의 악성 공격을 적용하여, 미분 가능한 분류기인 SVM 및 신경망을 속이기 위한 최소한의 노이즈를 분석적으로 최소화하였다.
• 특징 임계값 설정, 강력한 특징 선택, 그리고 악성 표본을 사용한 악성 공격에 대한 재훈련을 포함한 대응 조치를 제안하였다.
• 정적, 동적, 하드웨어 기반 특징을 융합하여 회피 공격에 대한 내성을 향상시키는 하이브리드 탐지 방식을 탐색하였다.

실험 결과

연구 질문

• RQ1 정적 특징을 사용한 기계 학습 기반 분류기는 악성 PDF를 탐지하는 데 얼마나 효과적인가?
• RQ2 비기능적 파일 요소를 수정함으로써 회피 공격이 훈련된 PDF 악성 소프트웨어 탐지기를 얼마나 효과적으로 우회할 수 있는가?
• RQ3 기능적 특징 조작을 통해 회피가 가능한 현재의 기계 학습 기반 탐지 시스템의 주요 취약점은 무엇인가?
• RQ4 악성 공격에 대한 훈련과 특징 강화는 PDF 악성 소프트웨어 탐지기의 강성을 어떻게 향상시킬 수 있는가?
• RQ5 정적, 동적, 하드웨어 기반 특징을 융합한 하이브리드 탐지 모델은 회피 공격 완화에 어떤 역할을 할 수 있는가?

주요 결과

• 기계 학습 기반 PDF 악성 소프트웨어 탐지기는 10,000개의 정상 및 10,000개의 악성 PDF로 구성된 균형 잡힌 데이터셋을 기반으로 SVM를 사용해 99.60% 정확도와 0.05% 위양성률을 달성하였다.
• 악성 PDF에 빈 객체를 삽입하는 회피 공격은 파일의 동작이나 외관을 변경하지 않으면서도 훈련된 분류기를 98% 성공률로 우회하는 데 성공하였다.
• 기울기 강하 기반의 악성 공격는 기능적 특징 공간에서의 조작 자유도가 매우 높음을 입증하며, 다양한 기계 학습 분류기의 약점을 효과적으로 노출시켰다.
• 객체 수나 스트림 크기와 같은 특징에 임계값을 설정하면, 특징 증가에 의존하는 단순한 회피 공격를 차단할 수 있다.
• 악성 공격에 대한 재훈련—악성 표본을 사용해 분류기를 다시 훈련하는 것—은 강성 향상에 실현 가능한 방어 수단으로 확인되었다.
• 정적, 동적, 하드웨어 기반 특징을 융합하는 것은 탐지의 강성 향상과 회피 공격에 대한 민감도 감소를 위한 유망한 방향으로 여겨진다.