[논문 리뷰] Burning the Adversarial Bridges: Robust Windows Malware Detection Against Binary-level Mutations

Ahmed Abusnaina, Yizhen Wang외 4명|arXiv (Cornell University)|2023. 10. 05.

Advanced Malware Detection TechniquesComputer Science인용 수 3

한 줄 요약

이 논문은 섹션 삽입과 같은 공격에 저항할 수 있도록 바이너리 수준의 적대적 변형에 강건한 악성코드 탐지 프레임워크를 제안한다. 소프트웨어 사전처리(패딩 제거, 스타핑, 섹션 간 정보 리셋)와 새로운 그래프 기반 섹션 의존 특성 인코딩을 통해 공격에 대응한다. 정상 샘플에서 88.32%의 AUC를 기록하고 복합 공격 조건에서도 88.19%의 AUC를 확보하여 성능을 희생시키지 않은 채 뛰어난 강건성을 입증한다.

ABSTRACT

Toward robust malware detection, we explore the attack surface of existing malware detection systems. We conduct root-cause analyses of the practical binary-level black-box adversarial malware examples. Additionally, we uncover the sensitivity of volatile features within the detection engines and exhibit their exploitability. Highlighting volatile information channels within the software, we introduce three software pre-processing steps to eliminate the attack surface, namely, padding removal, software stripping, and inter-section information resetting. Further, to counter the emerging section injection attacks, we propose a graph-based section-dependent information extraction scheme for software representation. The proposed scheme leverages aggregated information within various sections in the software to enable robust malware detection and mitigate adversarial settings. Our experimental results show that traditional malware detection models are ineffective against adversarial threats. However, the attack surface can be largely reduced by eliminating the volatile information. Therefore, we propose simple-yet-effective methods to mitigate the impacts of binary manipulation attacks. Overall, our graph-based malware detection scheme can accurately detect malware with an area under the curve score of 88.32\% and a score of 88.19% under a combination of binary manipulation attacks, exhibiting the efficiency of our proposed scheme.

연구 동기 및 목표

• 최신 악성코드 탐지 모델이 바이너리 수준의 적대적 변형에 얼마나 취약한지 조사하기 위해.
• 패딩, 섹션 삽입, 섹션 간 간격 수정과 같은 바이너리 조작 공격에서 악용되는 변동성이 큰 정보 채널을 특정하고 분석하기 위해.
• 악성코드 바이너리에서 악용 가능한 특성을 제거하는 경량의 사전처리 기반 완화 기법을 개발하기 위해.
• 섹션 수준의 종속성을 반영하고 적대적 변형에 대한 강건성을 향상시키는 그래프 기반 악성코드 표현 방식을 설계하기 위해.
• 실제 세계의 적대적 조건에서 기계학습 모델과 산업 표준 탐지 엔진에 대해 제안된 프레임워크의 효과성을 평가하기 위해.

제안 방법

• 저자들은 패딩 제거, 소프트웨어 스타핑, 섹션 간 정보 리셋의 세 가지 사전처리 단계를 적용하여 악성코드 공격자가 조작할 수 있는 변동성이 큰 특성을 제거한다.
• 다양한 바이너리 섹션 간의 관계를 모델링하여 더 강건한 표현을 만드는 그래프 기반 섹션 의존 정보 추출 기법을 도입한다.
• 단조적 특성 학습 기법을 사용하여 적대적 편향에 대한 저항력을 높이면서도 탐지 성능을 유지한다.
• 그래프 인코딩은 섹션 간의 집계된 정보를 캡처하여 바이너리의 구조가 변경된 경우에도 악성 의도를 탐지할 수 있도록 한다.
• 프레임워크는 다양한 바이너리 수준 공격 시나리오에서 네 개의 최신 악성코드 탐지 모델과 다섯 개의 산업 표준 탐지 엔진을 대상으로 평가된다.
• 이 방법은 자원을 많이 소비하는 동적 분석에 의존하지 않는 경량의 정적 기반 분석을 중심으로 엔드포인트 장치에 구현 가능한 방식으로 설계되었다.

실험 결과

연구 질문

• RQ1 패딩 및 섹션 삽입과 같은 바이너리 수준의 적대적 변형에 기존 악성코드 탐지 모델은 얼마나 취약한가?
• RQ2 악성코드 바이너리에서 성공적인 회피 공격를 가능하게 하는 핵심적인 변동성 있는 정보 채널은 무엇인가?
• RQ3 사전처리 기법이 악용 가능한 특성을 효과적으로 제거하고 악성코드 탐지 시스템의 공격 표면을 줄일 수 있는가?
• RQ4 그래프 기반 섹션 인식 표현 방식은 바이너리 수준의 적대적 변형에 대해 얼마나 강건성을 향상시킬 수 있는가?
• RQ5 기본 모델 대비 복합 적대적 공격 조건에서 제안된 프레임워크의 성능은 어떠한가?

주요 결과

• 기존의 악성코드 탐지 모델은 바이너리 수준의 적대적 공격를 받을 경우 성능이 크게 떨어지며, 섹션 삽입이나 바이너리 패딩 이후 탐지 정확도가 크게 감소한다.
• 소프트웨어 사전처리 기법—패딩 제거, 스타핑, 섹션 간 정보 리셋—은 변동성이 큰 특성을 제거함으로써 대부분의 바이너리 수준 공격를 효과적으로 완화한다.
• 섹션 삽입 공격는 여전히 심각한 위협이지만, 새로운 실행 가능한 섹션을 바이너리에 삽입하기 때문에 사전처리만으로는 완화가 어려우므로 해결이 필요하다.
• 제안된 그래프 기반 표현 방식은 정상 악성코드 샘플에서 AUC 88.32%를 기록하고 복합 바이너리 조작 공격 조건에서도 88.19%의 AUC를 확보하여 강력한 강건성을 입증한다.
• 그래프 인코딩 모델은 섹션 수준의 종속성을 캡처함으로써 단일 표현 방식보다 더 높은 구조적 수정에 대한 탐지 내성 확보에 기여한다.
• 이 연구는 기존 탐지 엔진이 블랙박스 기반 엔드포인트 바이너리 조작에 취약하다는 점을 확인하며, 강건하고 아키텍처 인식 기반의 탐지 프레임워크의 필요성을 강조한다.