[논문 리뷰] Intelligent Systems Design for Malware Classification Under Adversarial Conditions

Sean M. Devine, Nathaniel D. Bastian|arXiv (Cornell University)|2019. 07. 06.

Advanced Malware Detection Techniques참고 문헌 12인용 수 8

한 줄 요약

이 논문은 악성코드 분류의 강인성을 향상시키기 위해 스태킹 앙상블 기계학습 기법을 제안한다. 이는 편향된 데이터로 기반 모델을 훈련하고 소프트 보팅을 통해 통합함으로써, 공격자에 의해 조작된 환경에서도 저항력을 유지하면서도 높은 정확도를 유도한다. 최종 스태킹 모델은 공격자 환경에서 개별 분류기보다 뛰어난 성능을 보였다.

ABSTRACT

The use of machine learning and intelligent systems has become an established practice in the realm of malware detection and cyber threat prevention. In an environment characterized by widespread accessibility and big data, the feasibility of malware classification without the use of artificial intelligence-based techniques has been diminished exponentially. Also characteristic of the contemporary realm of automated, intelligent malware detection is the threat of adversarial machine learning. Adversaries are looking to target the underlying data and/or algorithm responsible for the functionality of malware classification to map its behavior or corrupt its functionality. The ends of such adversaries are bypassing the cyber security measures and increasing malware effectiveness. The focus of this research is the design of an intelligent systems approach using machine learning that can accurately and robustly classify malware under adversarial conditions. Such an outcome ultimately relies on increased flexibility and adaptability to build a model robust enough to identify attacks on the underlying algorithm.

연구 동기 및 목표

• 기계학습 기반 악성코드 분류기가 적대적 사이버 환경에서 데이터 품질 낮춘 공격에 취약한 점을 해결하기 위해.
• 편향된 훈련 데이터로 훈련함으로써 모델 강인성을 향상시키는 지능형 시스템 접근법을 설계하기 위해.
• 다양한 수준의 데이터 편향 조건에서 훈련된 다수의 기본 분류기의 성능을 평가하고 통합하여 저항력을 향상시키기 위해.
• 다양한 편향 방식을 적용한 데이터에 기반해 소프트 보팅을 활용한 스태킹 앙상블 모델을 개발하기 위해.
• 비적대적 조건에서의 총 분류 정확도를 희생시키지 않은 채 강인성을 확보할 수 있음을 입증하기 위해.

제안 방법

• 특성 및 레이블 편향을 포함한 원본 및 편향된 훈련 데이터로 다수의 기본 기계학습 모델(SVM, 랜덤 포레스트, 로지스틱 회귀 등)을 훈련한다.
• 스토케스틱 샘플링을 통한 통제된 데이터 품질 낮춘 공격을 적용하여 적대적 훈련 데이터 시나리오를 시뮬레이션한다.
• 원본 데이터, 특성 편향 데이터, 레이블 편향 데이터의 세 가지 데이터 세트 기반으로 기본 모델 예측을 선형 스태킹 방식으로 통합한다.
• 모든 기본 모델의 예측 확률을 종합하여 가장 높은 후행 확률 합을 가진 클래스를 선택하기 위해 메타-러닝러 수준(레벨 2 SVM)에서 소프트 보팅 앙상블을 구현한다.
• 모든 편향 방식에 대해 정확도와 강인성을 측정하여 적대적 조건 하에서의 모델 성능을 평가한다.
• 큰 특성 집합으로 인한 메모리 제약을 관리하기 위해 차원 축소를 적용하지만, 이는 범위를 최소화하였다.

실험 결과

연구 질문

• RQ1 기본 분류기를 적대적으로 편향된 데이터로 훈련하면 악성코드 분류에서 데이터 품질 낮춘 공격에 대한 강인성이 향상되는가?
• RQ2 다양한 편향 방식에서 훈련된 다수의 기본 모델을 스태킹하면 총 분류 정확도와 강인성이 향상되는가?
• RQ3 메타-러닝러 수준에서 소프트 보팅 앙상블을 사용하면 적대적 데이터에 대한 저항력은 향상되면서도 청소년 데이터 성능은 유지되는가?
• RQ4 스태킹 모델에서 적대적 조건 하의 강인성과 원본 데이터에서의 정확도 사이의 상충 관계는 어떠한가?
• RQ5 모든 편향 방식에 걸쳐 최종 소프트 보팅 앙상블을 적용하면 실제 적대적 환경에서 모델 강인성이 추가로 향상되는가?

주요 결과

• 레벨 2 서포트 벡터 머신 메타-러닝러를 사용한 스태킹 앙상블 모델이 적대적 조건에서 모든 개별 기본 모델보다 뛰어난 성능을 보였다.
• 최종 스태킹 모델은 오염된 데이터로 훈련된 후에도 높은 정확도를 유지하여 데이터 품질 낮춘 공격의 영향을 효과적으로 완화함을 입증했다.
• 모든 편향 방식에 걸쳐 소프트 보팅 앙상블 접근법을 적용함으로써 개별 모델 대비 모델 강인성이 크게 향상되었다.
• 원본 데이터에서 정확도가 약간 감소한 경향이 있었지만, 이는 적대적 저항력의 상당한 향상으로 인해 정당화되었다.
• 다양한 유형의 편향 데이터로 훈련된 모델들을 효과적으로 통합함으로써 더 적응력 있고 지능적인 분류 시스템이 구현되었다.
• 본 연구는 실세계 사이버 방어 응용 분야에서 실용적으로 구현 가능한 강건하고 지능적인 악성코드 분류 시스템의 기초를 제공한다.