[論文レビュー] Why an Android App is Classified as Malware? Towards Malware Classification Interpretation

Bozhi Wu, Sen Chen+5 more|arXiv (Cornell University)|Apr 24, 2020

Advanced Malware Detection Techniques参考文献 66被引用数 8

ひとこと要約

本稿では、マルチレイヤーパーセプトロンとカスタマイズされたアテンションメカニズムを組み合わせることで、重要な特徴を特定し、悪意ある行動の自然言語説明を生成する、Androidマルウェア検出のための新規で解釈可能な機械学習フレームワークXMalを提案する。XMalは、アテンション駆動の特徴重み付けと人間が読める記述を通じて、モデルの意思決定をドメイン固有のマルウェア行動に正確に結びつけることで、LIME や Drebin よりも解釈性に優れ、高い検出精度を達成する。

ABSTRACT

Machine learning (ML) based approach is considered as one of the most promising techniques for Android malware detection and has achieved high accuracy by leveraging commonly-used features. In practice, most of the ML classifications only provide a binary label to mobile users and app security analysts. However, stakeholders are more interested in the reason why apps are classified as malicious in both academia and industry. This belongs to the research area of interpretable ML but in a specific research domain (i.e., mobile malware detection). Although several interpretable ML methods have been exhibited to explain the final classification results in many cutting-edge Artificial Intelligent (AI) based research fields, till now, there is no study interpreting why an app is classified as malware or unveiling the domain-specific challenges. In this paper, to fill this gap, we propose a novel and interpretable ML-based approach (named XMal) to classify malware with high accuracy and explain the classification result meanwhile. (1) The first classification phase of XMal hinges multi-layer perceptron (MLP) and attention mechanism, and also pinpoints the key features most related to the classification result. (2) The second interpreting phase aims at automatically producing neural language descriptions to interpret the core malicious behaviors within apps. We evaluate the behavior description results by comparing with the existing interpretable ML-based methods (i.e., Drebin and LIME) to demonstrate the effectiveness of XMal. We find that XMal is able to reveal the malicious behaviors more accurately. Additionally, our experiments show that XMal can also interpret the reason why some samples are misclassified by ML classifiers. Our study peeks into the interpretable ML through the research of Android malware detection and analysis.

研究の動機と目的

• 機械学習ベースのAndroidマルウェア検出において、悪意あると分類されたアプリの理由が説明されないまま、単にバイナリラベルしか提供されないという解釈性の欠如に対処すること。
• 最も影響力のある特徴を特定し、それらを悪意ある行動の説明として人間が理解できる形に翻訳することで、マルウェア分類を説明する手法を開発すること。
• LIME や Drebin といった既存の解釈可能なML手法が特徴の相関関係を考慮せず、マルウェア検出において誤ったまたは低忠実度の説明を生成するという限界を克服すること。
• セキュリティアナリストやアプリストアが、アプリが悪意あると判断された「なぜ」を正確に理解できるように、単に悪意あるかどうかを知るのではなく、モデルがその判断をどのように下したかを明らかにすること。
• 解釈可能な分析によって誤分類の原因を明らかにし、敵対的脆弱性を露呈させることで、モデルの堅牢性を向上させること。

提案手法

• XMalは二段階のアプローチを採用する：まず、マルチレイヤーパーセプトロン（MLP）にカスタマイズされたアテンションメカニズムを組み合わせ、アプリをマルウェアまたは良性と分類するとともに、最も関連性の高い特徴を同定する。
• スカラ値特徴を対象としたアテンションメカニズムは、各特徴の分類意思決定における重要性を反映する重みを計算するために、全結合ネットワークを用いて適応的に設計されている。
• 第二段階では、上位の重みを持つ特徴を、事前に定義されたマルウェア意味論の知識ベースを用いて意味的解釈にマッピングすることで、悪意ある行動の自然言語記述を生成する。
• 分類精度と忠実なアテンション駆動の特徴帰属を同時に最適化するように、エンドツーエンドでモデルを学習する。
• 特徴の相関関係はアテンションメカニズムによって保持され、LIME や類似手法に共通する線形近似の欠陥を回避する。
• 人間による評価と定量的分析を通じて、生成された説明の質と忠実度を検証する。

実験結果

リサーチクエスチョン

• RQ1 バイナリ分類ラベルを超えて、機械学習ベースのAndroidマルウェア検出モデルの解釈性をどのように向上させられるか？
• RQ2 特徴が相互に依存する状況下でも、カスタマイズされたアテンションメカニズムが、マルウェア分類において最も影響力のある特徴をどれだけ正確に特定できるか？
• RQ3 生成された悪意ある行動の自然言語記述は、セキュリティアナリストにとって正確かつ意味的に意味を持つものか？
• RQ4 XMalの解釈性は、LIME や Drebin といった既存手法と比較して、実際のマルウェア行動との整合性と関連性においてどの程度優れているか？
• RQ5 XMalは、MLベースのマルウェア検出器における誤分類の根本原因を明らかにでき、モデルの透明性と堅牢性を向上させられるか？

主な発見

• XMalは、最先端のモデルと同等の高い検出精度を達成するとともに、悪意ある行動の解釈可能な説明を提供する。
• XMalのアテンションメカニズムは特徴の依存関係を効果的に捉えており、相関関係をモデル化できないLIMEの局所線形近似に比べて優れている。
• 人間による評価では、XMalが生成する自然言語記述が、LIME や Drebin のそれよりも正確で意味的に意味のあるものであることが確認された。
• XMalは、不正なデータ漏洩、SMSスパム送信、特権昇格といった、核心的な悪意ある行動を高精度で同定・説明でき、真のマルウェア意味論と高い整合性を示した。
• 誤分類の原因を、誤解を招くまたは敵対的に変更された特徴を強調することで明らかにし、改善された堅牢性分析能力を示した。
• 注意重みと既知のマルウェア行動パターンを比較する詳細な分析により、XMalの説明忠実度が定量的に優れていることが示された。