[論文レビュー] Towards Interpretable Ensemble Learning for Image-based Malware Detection

Yuzhou Lin, Xiaolin Chang|arXiv (Cornell University)|Jan 13, 2021

Anomaly Detection Techniques and Applications参考文献 39被引用数 4

ひとこと要約

本稿では、画像ベースのマルウェア検出のための解釈可能でアンサンブル学習の枠組み、IEMDを提案する。これは、選択的ディープアンサンブル学習（SDEL）検出器と、ピクセルレベルの説明を提供するアンサンブルディープテイラー分解（EDTD）手法を組み合わせたものである。IEMDは、高忠実度で、頑健かつ表現力に富んだ説明を実現し、99.87%の検出精度を達成した。これにより、解釈可能性と精度がマルウェア検出システムにおいて両立可能であることが示された。

ABSTRACT

Deep learning (DL) models for image-based malware detection have exhibited their capability in producing high prediction accuracy. But model interpretability is posing challenges to their widespread application in security and safety-critical application domains. This paper aims for designing an Interpretable Ensemble learning approach for image-based Malware Detection (IEMD). We first propose a Selective Deep Ensemble Learning-based (SDEL) detector and then design an Ensemble Deep Taylor Decomposition (EDTD) approach, which can give the pixel-level explanation to SDEL detector outputs. Furthermore, we develop formulas for calculating fidelity, robustness and expressiveness on pixel-level heatmaps in order to assess the quality of EDTD explanation. With EDTD explanation, we develop a novel Interpretable Dropout approach (IDrop), which establishes IEMD by training SDEL detector. Experiment results exhibit the better explanation of our EDTD than the previous explanation methods for image-based malware detection. Besides, experiment results indicate that IEMD achieves a higher detection accuracy up to 99.87% while exhibiting interpretability with high quality of prediction results. Moreover, experiment results indicate that IEMD interpretability increases with the increasing detection accuracy during the construction of IEMD. This consistency suggests that IDrop can mitigate the tradeoff between model interpretability and detection accuracy.

研究の動機と目的

• 画像ベースのマルウェア検出におけるディープラーニングモデルの解釈可能性の欠如に取り組むこと、特にセキュリティが重要な環境において。
• 従来の画像ベースのマルウェア検出システムにおける、モデルの精度と解釈可能性のトレードオフを克服すること。
• モデルの予測に対して信頼性があり、高品質なピクセルレベルの属性を提供する新規な説明手法を開発すること。
• 検出性能を損なわせることなく解釈可能性を向上させる訓練戦略を設計すること。

提案手法

• 複数のディープニューラルネットワークを的確に組み合わせることで予測精度を向上させる、選択的ディープアンサンブル学習（SDEL）検出器を提案する。
• SDELの予測を説明するピクセルレベルのセラニティマップを生成するための手法として、アンサンブルディープテイラー分解（EDTD）を導入する。
• ピクセルレベルのヒートマップにおける忠実度、頑健性、表現力の指標を用いて、説明の品質を評価するための数式を構築する。
• SDEL検出器の訓練を実施しつつ、説明の品質を向上させるための新規な解釈可能なドロップアウト（IDrop）技術を設計する。
• EDTDを用いて各予測の説明を生成し、定量的指標を用いてその妥当性を検証する。
• SDEL、EDTD、およびIDropを統合し、エンドツーエンドの解釈可能なマルウェア検出を実現する統合フレームワークIEMDを構築する。

実験結果

リサーチクエスチョン

• RQ1 アンサンブルディープラーニングモデルは、画像ベースのマルウェア検出において、高い検出精度を維持しながらも、高品質な解釈可能性を達成できるか？
• RQ2 マルウェア検出におけるディープラーニングモデルに対して、ピクセルレベルの説明を信頼性高く生成し、評価することは可能か？
• RQ3 アンサンブル学習によるモデル精度の向上は、予測の解釈可能性を高めることにつながるか？
• RQ4 解釈可能なドロップアウト（IDrop）のような訓練戦略は、精度と解釈可能性のトレードオフを効果的に軽減できるか？
• RQ5 忠実度、頑健性、表現力の指標と、検出性能との間に相関関係があるとすれば、どの程度その相関が成立するか？

主な発見

• IEMDは99.87%の検出精度を達成し、画像ベースのマルウェア検出分野で最先端の性能を示した。
• EDTDは、忠実度、頑健性、表現力の指標で測定した場合、先行する説明手法よりも優れた説明を生成した。
• 訓練過程において、検出精度が向上するにつれて、解釈可能性の品質（説明指標で測定）も向上した。
• 提案されたIDrop手法は、従来の精度と解釈可能性のトレードオフを効果的に緩和した。
• 検出精度と説明品質の間には相関関係が成立しており、高い精度のモデルは自然に信頼性が高く、解釈可能な予測をもたらすことが示唆された。