[논문 리뷰] Yes, Machine Learning Can Be More Secure! A Case Study on Android Malware Detection

Ambra Demontis, Marco Melis외 7명|arXiv (Cornell University)|2017. 04. 28.

Advanced Malware Detection Techniques인용 수 9

한 줄 요약

이 논문은 기존의 Drebin과 같은 기계학습 기반 안드로이드 악성코드 탐지기의 탐지 성능을 크게 떨어뜨리지 않으면서도, 오용 공격에 대한 강건성을 향상시키는 보안 학습 프레임워크를 제안한다. 선형 분류기의 특성 가중치를 재분배하여 입력 조작에 대한 취약성을 줄임으로써, 공격자가 탐지를 피하기 위해 더 복잡하고 탐지하기 쉬운 변경을 해야 하도록 유도한다.

ABSTRACT

To cope with the increasing variability and sophistication of modern attacks, machine learning has been widely adopted as a statistically-sound tool for malware detection. However, its security against well-crafted attacks has not only been recently questioned, but it has been shown that machine learning exhibits inherent vulnerabilities that can be exploited to evade detection at test time. In other words, machine learning itself can be the weakest link in a security system. In this paper, we rely upon a previously-proposed attack framework to categorize potential attack scenarios against learning-based malware detection tools, by modeling attackers with different skills and capabilities. We then define and implement a set of corresponding evasion attacks to thoroughly assess the security of Drebin, an Android malware detector. The main contribution of this work is the proposal of a simple and scalable secure-learning paradigm that mitigates the impact of evasion attacks, while only slightly worsening the detection rate in the absence of attack. We finally argue that our secure-learning approach can also be readily applied to other malware detection tasks.

연구 동기 및 목표

• 기계학습 기반 안드로이드 악성코드 탐지기에 대한 오용 공격의 증가하는 위협에 대응하기 위해.
• 다양한 지식과 능력을 가진 공격자가 악성코드 샘플을 어떻게 조작하여 탐지를 회피할 수 있는지 조사하기 위해.
• 일반 조건에서 높은 탐지 정확도를 유지하면서도 이러한 공격에 사전에 대비할 수 있는 보안 학습 프레임워크를 설계하기 위해.
• 제안된 방법이 Drebin을 넘어서 다른 악성코드 탐지 작업으로도 일반화될 수 있음을 보여주기 위해.

제안 방법

• 저자는 공격자의 지식 수준과 능력 수준(예: 지식 없음, 부분 지식, 전체 지식)을 모델링하여 현실적인 오용 시나리오를 시뮬레이션한다.
• 오염 기법(예: DexGuard)과 지식 기반 조작을 사용하여 Drebin에 오용 공격을 구현하고, 분류기의 강건성을 테스트한다.
• 선형 분류기에서 특성 가중치의 분포를 더 균일하게 만드는 새로운 보안 학습 알고리즘을 제안한다. 이는 개별 특성 조작에 대한 민감도를 감소시킨다.
• 특성 중요도를 균형 있게 유지하기 위해 가중치 벡터에 선형 제약 조건을 도입함으로써, 공격자가 특정 특성을 악용하는 것을 어렵게 한다.
• 이론적 분석에 기반하여, Drebin 데이터셋을 대상으로 광범위한 실험을 통해 검증한다.
• empirical kernel mapping을 통해 비선형 분류기로의 확장을 통해 더 넓은 적용 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 최신 기계학습 기반 안드로이드 악성코드 탐지기(예: Drebin)는 지능적인 적대자에 의해 오용 공격을 받을 때 얼마나 취약한가?
• RQ2 공격자가 분류기와 훈련 데이터에 대해 다양한 수준의 지식을 가질 경우, 공격의 효과성에 어떤 차이가 있는가?
• RQ3 오용 공격에 대한 강건성을 향상시키면서도 일반 조건에서의 탐지 성능을 떨어뜨리지 않는 보안 학습 접근법을 설계할 수 있는가?
• RQ4 제안된 보안 학습 프레임워크는 다른 악성코드 탐지 시스템으로까지 얼마나 일반화될 수 있는가?

주요 결과

• 표준 Drebin 분류기는 특히 공격자가 모델에 대한 전체 지식을 갖고 있으며 특성들을 전략적으로 조작할 수 있을 경우, 오용 공격에 매우 취약하다.
• Drebin에서 높은 가중치를 가진 특성을 악용하는 오용 공격는 악성코드 코드에 최소한의 변경만으로도 탐지를 회피하는 데 성공할 수 있다.
• 제안된 보안 학습 방법은 성공적인 오용을 위해 요구되는 조작 수를 크게 증가시켜 공격의 복잡성과 탐지 가능성 증가를 이끈다.
• 공격가 없는 상황에서는 거의 동일한 탐지 정확도를 유지하며, 평균 F1-스코어에서 1% 미만의 경미한 성능 저하가 발생한다.
• 이 보안 학습 접근법은 지식 없음, 부분 지식, 전체 지식이 있는 다양한 공격 시나리오에서 효과적으로 작동한다.
• 이 방법은 PDF 및 자바스크립트 탐지 작업에도 성공적으로 적용되어 일반화 가능성과 실용적 관련성을 확인한다.