[논문 리뷰] Examining Adversarial Learning against Graph-based IoT Malware Detection Systems

Ahmed Abusnaina, Aminollah Khormali외 5명|arXiv (Cornell University)|2019. 02. 12.

Adversarial Robustness in Machine Learning참고 문헌 11인용 수 4

한 줄 요약

이 논문은 악성 소프트웨어 탐지에 대한 적대적 공격에 대해 그래프 기반 딥러닝 모델의 강건성을 조사한다. 적대적 공격을 통해 기능을 유지하면서 탐지 회피가 가능한 악성 IoT 소프트웨어 샘플을 생성하기 위해 두 가지 방법—오프더셰프 적대적 공격(Off-the-Shelf Adversarial Attacks, OSAA)과 그래프 임bedding 및 증강(Graph Embedding and Augmentation, GEA)—을 제안한다. 주요 발견은 GEA가 악성 샘플의 100%를 악성으로 잘못 분류함으로써 실제 환경에서 심각한 취약성을 드러낸다는 것이다.

ABSTRACT

The main goal of this study is to investigate the robustness of graph-based Deep Learning (DL) models used for Internet of Things (IoT) malware classification against Adversarial Learning (AL). We designed two approaches to craft adversarial IoT software, including Off-the-Shelf Adversarial Attack (OSAA) methods, using six different AL attack approaches, and Graph Embedding and Augmentation (GEA). The GEA approach aims to preserve the functionality and practicality of the generated adversarial sample through a careful embedding of a benign sample to a malicious one. Our evaluations demonstrate that OSAAs are able to achieve a misclassification rate (MR) of 100%. Moreover, we observed that the GEA approach is able to misclassify all IoT malware samples as benign.

연구 동기 및 목표

• 그래프 기반 딥러닝 모델이 적대적 공격 하에서 IoT 악성 소프트웨어를 탐지하는 데 있어 강건성을 평가하는 것.
• CFG 기반 IoT 악성 소프트웨어 탐지 시스템에 대한 적대적 학습의 영향에 대한 연구 격차를 메우는 것.
• 기존 기능과 실용성을 유지하면서 탐지 회피가 가능한 적대적 예제를 생성하는 것.
• 오프더셰프 적대적 공격와 새로운 그래프 임베딩 접근법의 효과성과 실용성 간 비교

제안 방법

• GCC와 Radare2를 사용하여 IoT 바이너리에서 제어 흐름 그래프(Control Flow Graphs, CFGs)를 구축하고, 특징 추출을 수행함.
• CFG에서 23개의 그래프 기반 특징(예: 중심성, 가까움, 차수 중심성, 조밀도, 간선/정점 수 등)을 추출함.
• 2,557개의 IoT 샘플(악성 2,281개, 정상 276개)을 기반으로 CNN 기반 분류기를 훈련하여 97.13%의 정확도 달성.
• 6종의 오프더셰프 적대적 공격 방법(C&W, DeepFool, ElasticNet, JSMA, MIM, PGD)을 적용하여 특징 공간을 변형함.
• 기능을 유지하면서 악성 그래프에 정상 그래프를 통합하여 악성 샘플을 생성하는 그래프 임베딩 및 증강(Graph Embedding and Augmentation, GEA) 기법을 제안함.
• 다양한 그래프 크기와 밀도에서 GEA를 평가하고, 잘못 분류율과 계산 비용을 측정함.

실험 결과

연구 질문

• RQ1 오프더셰프 적대적 공격가 그래프 기반 IoT 악성 소프트웨어 탐지에서 높은 잘못 분류율을 달성할 수 있는가?
• RQ2 기존 기능과 실용성을 유지하면서 탐지 회피가 가능한 적대적 예제를 생성할 수 있는가?
• RQ3 그래프 크기와 밀도는 적대적 샘플 생성의 성공률과 계산 비용에 어떤 영향을 미치는가?
• RQ4 GEA 접근법은 기능적 동작을 유지하면서 얼마나 높은 수준의 악성 소프트웨어를 정상으로 잘못 분류할 수 있는가?

주요 결과

• OSAA 방법은 모든 6종의 공격 유형에서 최대 잘못 분류율(MR) 100%를 기록하였으며, PGD와 MIM는 각각 22.56 및 20.60개의 특징 변경이 필요로 함.
• 가장 큰 악성 그래프(455개 정점)를 대상으로 GEA를 적용한 결과, 악성 샘플의 100%가 정상으로 잘못 분류되었으며, 계산 시간은 1,123.12 ms였음.
• 정상에서 악성으로의 잘못 분류에 대해 GEA는 가장 큰 정상 그래프(367개 정점)에서 88.04%의 MR을 달성하여 높은 탐지 회피 능력을 입증함.
• GEA의 잘못 분류율은 그래프 크가 증가함에 따라 증가하여, 더 크고 복잡한 그래프일수록 적대적 조작에 더 취약함을 시사함.
• GEA는 OSAA와 달리 원본 샘플의 기능적 정확성을 유지함. 반면 OSAA는 실용성이나 실행 가능성 보장을 보장하지 않음.
• 훈련된 모델에서 높은 거짓 음성 비율(11.26%)은 클래스 불균형에 기인하며, 실세계 구현 시 도전 과제로 지적됨.