[논문 리뷰] Exposing Weaknesses of Malware Detectors with Explainability-Guided Evasion Attacks

Wei Wang, Ruoxi Sun외 5명|arXiv (Cornell University)|2021. 11. 19.

Adversarial Robustness in Machine Learning참고 문헌 37인용 수 7

한 줄 요약

이 논문은 백색 상자 접근이 필요 없이 최신 악성코드 탐지기들을 우회하기 위해 특성 공간 내에서의 조작과 문제 공간 내에서의 혼란을 조합한 설명 가능성 유도형 회피 공격을 제안한다. SHAP를 활용한 특성 선택을 통해 높은 회피 성공률를 달성하며, 현재 탐지 시스템에 광범위한 취약성을 드러낸다.

ABSTRACT

Numerous open-source and commercial malware detectors are available. However, the efficacy of these tools has been threatened by new adversarial attacks, whereby malware attempts to evade detection using, for example, machine learning techniques. In this work, we design an adversarial evasion attack that relies on both feature-space and problem-space manipulation. It uses explainability-guided feature selection to maximize evasion by identifying the most critical features that impact detection. We then use this attack as a benchmark to evaluate several state-of-the-art malware detectors. We find that (i) state-of-the-art malware detectors are vulnerable to even simple evasion strategies, and they can easily be tricked using off-the-shelf techniques; (ii) feature-space manipulation and problem-space obfuscation can be combined to enable evasion without needing white-box understanding of the detector; (iii) we can use explainability approaches (e.g., SHAP) to guide the feature manipulation and explain how attacks can transfer across multiple detectors. Our findings shed light on the weaknesses of current malware detectors, as well as how they can be improved.

연구 동기 및 목표

• 최신 악성코드 탐지기의 적대적 회피 공격에 대한 취약성을 조사한다.
• SHAP와 같은 설명 가능성 기법을 활용해 효과적인 특성 조작을 유도하는 블랙박스 회피 공격을 개발한다.
• 다양한 악성코드 탐지 시스템 간에 회피 공격의 이식성을 평가한다.
• 특성 공간 내 조작과 문제 공간 내 혼란을 조합함으로써 모델에 대한 상세한 지식 없이도 탐지 회피가 가능한지 평가한다.

제안 방법

• 공격은 악성코드 탐지 결정에 영향을 미치는 가장 영향력 있는 특성들을 식별하기 위해 SHAP(SHapley Additive exPlanations)를 사용한다.
• 특성 공간 내 조작은 SHAP를 통해 식별된 가장 중요한 특성들을 수정하여 탐지 확률을 최소화한다.
• 문제 공간 내 혼란은 기능을 변경하지 않으면서도 입력 구조(예: 코드 레이아웃 또는 제어 흐름)를 변경함으로써 적용된다.
• 공격은 내부 아키텍처나 파라미터에 대한 액세스 없이도 수행되는 블랙박스 설정에서 실행된다.
• 공격 성능을 측정하기 위해 여러 최신 악성코드 탐지기에서 벤치마크로 평가된다.
• 공격는 이식 가능하도록 설계되어 있으며, 오직 특성 중요도 정보만으로도 다양한 탐지 모델에서 회피가 가능하도록 한다.

실험 결과

연구 질문

• RQ1 설명 가능성 유도형 특성 선택 기법이 악성코드 탐지에서 회피를 위한 핵심 특성을 식별하는 데 얼마나 효과적인가?
• RQ2 특성 공간 내 조작과 문제 공간 내 혼란을 조합함으로써 백색 상자 접근 없이도 회피가 얼마나 잘 이루어지는가?
• RQ3 설명 가능성 기법에 의해 유도된 공격의 경우, 다양한 악성코드 탐지기 간에 이식성이 얼마나 높은가?
• RQ4 현재 최신 악성코드 탐지 시스템에서 이러한 공격의 성공률는 얼마인가?
• RQ5 설명 가능성 도구와 함께 사용되는 오프더쇼프 기법이 최소한의 모델 지식으로도 고도의 탐지기를 우회할 수 있는가?

주요 결과

• 최신 악성코드 탐지기들은 세부적인 모델 지식 없이도 단순한 회피 전략에 매우 취약하다.
• 특성 공간 내 조작과 문제 공간 내 혼란의 조합은 탐지기의 내부 지식 없이도 효과적인 회피를 가능하게 한다.
• SHAP와 같은 설명 가능성 기법은 핵심 특성의 선택을 성공적으로 유도하며, 회피 성공률를 크게 높인다.
• 공격는 여러 탐지기 간에 강력한 이식성을 보이며, 현재 탐지 접근 방식에 광범위한 체계적 취약성을 드러낸다.
• 설명 가능성 기반 지침을 받는 오프더쇼프 기법들조차도 고도의 악성코드 탐지기를 높은 효과로 우회할 수 있다.
• 연구 결과는 현재의 악성코드 탐지기가 설명 가능성 기반 적대적 조작에 대해 내성이 부족하다는 점을 강조한다.