[논문 리뷰] Towards Interpretable Ensemble Learning for Image-based Malware Detection

Yuzhou Lin, Xiaolin Chang|arXiv (Cornell University)|2021. 01. 13.

Anomaly Detection Techniques and Applications참고 문헌 39인용 수 4

한 줄 요약

이 논문은 이미지 기반 악성코드 탐지에 대해 선택적 딥 앙상블 학습(SDEL) 검출기와 앙상블 딥 테일러 분해(EDTD) 방법을 결합하여 해석 가능한 앙상블 학습 프레임워크인 IEMD를 제안한다. IEMD는 고정밀도, 높은 내구성, 뛰어난 표현력을 갖춘 픽셀 수준의 설명을 제공하며, 99.87%의 탐지 정확도를 달성하여, 악성코드 탐지 시스템에서 해석 가능성과 정확도가 공존할 수 있음을 입증한다.

ABSTRACT

Deep learning (DL) models for image-based malware detection have exhibited their capability in producing high prediction accuracy. But model interpretability is posing challenges to their widespread application in security and safety-critical application domains. This paper aims for designing an Interpretable Ensemble learning approach for image-based Malware Detection (IEMD). We first propose a Selective Deep Ensemble Learning-based (SDEL) detector and then design an Ensemble Deep Taylor Decomposition (EDTD) approach, which can give the pixel-level explanation to SDEL detector outputs. Furthermore, we develop formulas for calculating fidelity, robustness and expressiveness on pixel-level heatmaps in order to assess the quality of EDTD explanation. With EDTD explanation, we develop a novel Interpretable Dropout approach (IDrop), which establishes IEMD by training SDEL detector. Experiment results exhibit the better explanation of our EDTD than the previous explanation methods for image-based malware detection. Besides, experiment results indicate that IEMD achieves a higher detection accuracy up to 99.87% while exhibiting interpretability with high quality of prediction results. Moreover, experiment results indicate that IEMD interpretability increases with the increasing detection accuracy during the construction of IEMD. This consistency suggests that IDrop can mitigate the tradeoff between model interpretability and detection accuracy.

연구 동기 및 목표

• 보안 핵심 환경에서 이미지 기반 악성코드 탐지에 대한 딥 러닝 모델의 해석 가능성 부족 문제를 해결하기 위해.
• 기존 이미지 기반 악성코드 탐지 시스템에서 모델 정확도와 해석 가능성 간의 상충 관계를 극복하기 위해.
• 모델 예측에 대한 신뢰할 수 있고 고품질의 픽셀 수준 할당을 제공하는 새로운 설명 방법을 개발하기 위해.
• 탐지 성능을 희생시키지 않으면서도 해석 가능성을 향상시키는 훈련 전략을 설계하기 위해.

제안 방법

• 다양한 딥 네트워크를 선택적으로 조합하여 예측 정확도를 향상시키는 선택적 딥 앙상블 학습(SDEL) 검출기를 제안한다.
• SDEL 예측을 설명하는 픽셀 수준의 시각화 지도를 생성하기 위한 앙상블 딥 테일러 분해(EDTD) 방법을 도입한다.
• 픽셀 수준의 히트맵에서 정밀도, 내구성, 표현력 지표를 사용하여 설명 품질을 평가하는 수학적 공식을 개발한다.
• SDEL 검출기를 훈련하면서 설명 품질을 향상시키는 새로운 해석 가능한 드롭아웃(IDrop) 기법을 설계한다.
• EDTD를 사용하여 각 예측에 대한 설명을 생성하고, 정량적 지표를 사용해 검증한다.
• SDEL, EDTD, IDrop를 통합하여 종단 간 해석 가능한 악성코드 탐지를 위한 통합 프레임워크인 IEMD를 설계한다.

실험 결과

연구 질문

• RQ1 앙상블 딥 러닝 모델은 이미지 기반 악성코드 탐지에서 높은 탐지 정확도를 유지하면서도 높은 수준의 해석 가능성을 확보할 수 있는가?
• RQ2 딥 러닝 모델의 악성코드 탐지에서 픽셀 수준의 설명을 신뢰성 있게 생성하고 평가할 수 있는가?
• RQ3 앙성 학습을 통해 모델 정확도를 향상시키는 것이 예측의 해석 가능성도 향상시키는가?
• RQ4 해석 가능한 드롭아웃(IDrop)과 같은 훈련 전략은 정확도와 해석 가능성 간의 상충 관계를 효과적으로 완화할 수 있는가?
• RQ5 정밀도, 내구성, 표현력 지표가 설명 품질과 탐지 성능 간에 어느 정도 상관관계를 가지는가?

주요 결과

• IEMD는 99.87%의 탐지 정확도를 달성하여 이미지 기반 악성코드 탐지 분야에서 최신 기술 수준의 성능을 입증한다.
• 정밀도, 내구성, 표현력 지표로 측정했을 때, EDTD는 이전의 설명 방법보다 더 높은 품질의 설명을 생성한다.
• 훈련 과정에서 탐지 정확도가 향상될수록 설명 품질을 측정하는 설명 지표의 품질도 함께 향상된다.
• 제안된 IDrop 방법은 기존의 정확도와 해석 가능성 간의 상충 관계를 성공적으로 완화한다.
• 탐지 정확도와 설명 품질 간의 상관관계는 더 높은 정확도를 가진 모델이 자연스럽게 더 신뢰할 수 있고 해석 가능한 예측을 도출할 수 있음을 시사한다.