[논문 리뷰] Understanding the efficacy, reliability and resiliency of computer vision techniques for malware detection and future research directions

Li Chen|arXiv (Cornell University)|2019. 04. 03.

Advanced Malware Detection Techniques참고 문헌 8인용 수 3

한 줄 요약

이 논문은 바이너리 파일을 회색조 이미지로 변환함으로써 컴퓨터 비전 기반 악성코드 탐지 방법을 제안한다. 이는 ResNet, VGG와 같은 사전 훈련된 모델을 활용한 딥 트랜스퍼 러닝을 가능하게 하여 분류 정확도(98.13%)와 낮은 위양성률(0.237%)을 달성한다. 이 방법은 해석 가능성 덕분에 효율성과 신뢰성을 향상시키며, 적대적 공격에 대한 내성을 확보하여 기존의 기계학습 기법들을 능가한다. 또한 기계학습 기반 악성코드 탐지기에서 중요한 공격 표면을 드러낸다.

ABSTRACT

My research lies in the intersection of security and machine learning. This overview summarizes one component of my research: combining computer vision with malware exploit detection for enhanced security solutions. I will present the perspectives of efficacy, reliability and resiliency to formulate threat detection as computer vision problems and develop state-of-the-art image-based malware classification. Representing malware binary as images provides a direct visualization of data samples, reduces the efforts for feature extraction, and consumes the whole binary for holistic structural analysis. Employing transfer learning of deep neural networks effective for large scale image classification to malware classification demonstrates superior classification efficacy compared with classical machine learning algorithms. To enhance reliability of these vision-based malware detectors, interpretation frameworks can be constructed on the malware visual representations and useful for extracting faithful explanation, so that security practitioners have confidence in the model before deployment. In cyber-security applications, we should always assume that a malware writer constantly modifies code to bypass detection. Addressing the resiliency of the malware detectors is equivalently important as efficacy and reliability. Via understanding the attack surfaces of machine learning models used for malware detection, we can greatly improve the robustness of the algorithms to combat malware adversaries in the wild. Finally I will discuss future research directions worth pursuing in this research community.

연구 동기 및 목표

• 기존의 정적 및 동적 악성코드 분석의 한계를 극복하기 위해 바이너리의 시각적 표현을 활용한다.
• 이미지로 변환된 악성코드 바이너리에서 딥 트랜스퍼 러닝을 적용하여 기존 기계학습 모델을 뛰어넘는 탐지 효율성을 향상시킨다.
• 지역화된 샐런시 맵을 통한 예측의 해석 가능성 기능을 제공함으로써 보안 전문가의 신뢰를 높여 모델의 신뢰성을 향상시킨다.
• 기계학습 기반 악성코드 탐지기의 적대적 공격에 대응하기 위해 공격 표면을 분석하고 방어 전략을 강화한다.
• 확장 가능하고 신뢰할 수 있는 악성코드 탐지 시스템을 위한 향후 연구 방향으로 반감독 학습과 해석 가능한 인공지능을 규명한다.

제안 방법

• 바이너리 파일을 밝기 값(0–255)을 가진 회색조 픽셀 표현으로 변환하여 구조적 및 질감적 패턴을 시각화한다.
• 이미지넷 사전 훈련 모델(예: ResNet, VGG)을 악성코드 이미지 데이터셋에 적용하여 훈련 속도를 가속화하고 정확도를 향상시킨다.
• 지역화된 해석 가능한 모델에 종속적이지 않은 설명(LIME)을 사용하여 분류 결정에 기여하는 이미지 영역을 강조한다.
• 실행 로그를 기반으로 훈련된 보조 조건 GAN(AC-GAN)을 활용해 악성 랜섬웨어 행동을 생성하여 탐지기의 내성 테스트를 수행한다.
• 비전 GAN에서의 전이 학습을 통해 악성 행동 시퀀스의 수렴성과 품질을 향상시킨다.
• 생성 샘플의 일반화된 악성 정도를 정량화하고 탐지기 성능 저하를 평가하기 위해 적대적 품질 지표를 도입한다.

실험 결과

연구 질문

• RQ1 기존의 특징 기반 방법과 비교해 악성코드 바이너리의 이미지 기반 표현이 분류 정확도를 향상시킬 수 있는가?
• RQ2 해석 가능성 기법은 컴퓨터 비전 기반 악성코드 탐지기에서 보안 운영의 신뢰성과 신뢰도를 높이기 위해 어떻게 적용될 수 있는가?
• RQ3 기계학습 기반 악성코드 탐지기에서 적대적으로 조작된 행동에 노출되었을 때의 주요 공격 표면은 무엇인가?
• RQ4 GAN을 통해 생성된 적대적 샘플은 최신 악성코드 분류기의 성능을 어느 정도 저하시키는가?
• RQ5 반감독 학습과 해석 가능한 인공지능 접근법은 이미지 기반 악성코드 탐지 시스템의 확장성과 신뢰도를 향상시키는 데 어떻게 기여할 수 있는가?

주요 결과

• 제안된 전이 학습 방법은 98.13%의 정확도와 0.237%의 위양성률을 달성하여 SVM, 랜덤 포레스트, 얕은 신경망과 같은 기존 알고리즘을 크게 능가했다.
• 샐런시 맵을 통한 해석 가능성 분석을 통해 모델이 특정 픽셀 영역을 악성 패밀리의 고신뢰도 지표로 식별하고 있음을 확인하였으며, 이는 보안 분석가가 예측 결과를 검증하는 데 유용하다.
• AC-GAN을 활용해 생성한 적대적 샘플은 다섯 개의 분류기 중 네 개의 성능을 저하시켜 블랙박스 기반 기계학습 기반 랜섬웨어 탐지기의 광범위한 공격 표면을 입증했다.
• SVM-radial 분류기만 공격 상황에서도 높은 성능(100% 적대적 탐지율)을 유지하여 강건한 모델 설계의 필요성을 강조했다.
• Text-CNN을 다른 모델과 통합함으로써 총합 탐지 성능을 향상시켰지만, 대부분의 경우 적대적 샘플로 인해 심각한 성능 저하가 발생했다.
• 반감독 학습과 신뢰도 스코어링은 데이터 부족 문제를 해결하고 실제 사이버 방어 환경에서의 구현 준비도를 향상시키기 위한 실현 가능한 향후 연구 방향이다.