[論文レビュー] Intelligent Systems Design for Malware Classification Under Adversarial Conditions

Sean M. Devine, Nathaniel D. Bastian|arXiv (Cornell University)|Jul 6, 2019

Advanced Malware Detection Techniques参考文献 12被引用数 8

ひとこと要約

本稿では、摂動を加えたデータでベースモデルを学習し、ソフト投票によりそれらを統合することで、敵対的条件下におけるマルウェア分類の頑健性を向上させるスタックドアンサンブル機械学習手法を提案する。この手法は、データ汚染攻撃に対する耐性を高めつつ高い精度を維持するが、最終的なスタックドモデルは敵対的状況下で個々の分類器を上回る性能を示す。

ABSTRACT

The use of machine learning and intelligent systems has become an established practice in the realm of malware detection and cyber threat prevention. In an environment characterized by widespread accessibility and big data, the feasibility of malware classification without the use of artificial intelligence-based techniques has been diminished exponentially. Also characteristic of the contemporary realm of automated, intelligent malware detection is the threat of adversarial machine learning. Adversaries are looking to target the underlying data and/or algorithm responsible for the functionality of malware classification to map its behavior or corrupt its functionality. The ends of such adversaries are bypassing the cyber security measures and increasing malware effectiveness. The focus of this research is the design of an intelligent systems approach using machine learning that can accurately and robustly classify malware under adversarial conditions. Such an outcome ultimately relies on increased flexibility and adaptability to build a model robust enough to identify attacks on the underlying algorithm.

研究の動機と目的

• 敵対的サイバーエンvironmentsにおける機械学習ベースのマルウェア分類器が受けるデータ汚染攻撃への脆弱性に対処すること。
• 摂動を加えた学習データで学習させることにより、モデルの頑健性を向上させる知能システムのアプローチを設計すること。
• さまざまなレベルのデータ摂動下で学習された複数のベース分類器を評価・統合し、耐性を高めること。
• 異なる摂動スキームに基づいて予測を統合するためのソフト投票を用いたスタックドアンサンブルモデルを開発すること。
• 非敵対的条件下でも全体の分類精度を損なわずに、頑健性を達成できることを示すこと。

提案手法

• 特徴量摂動およびラベル摂動を含む、元のデータと摂動を加えた学習データ上で複数のベース機械学習モデル（例：SVM、ランダムフォレスト、ロジスティック回帰）を学習する。
• 確率的サンプリングを用いて制御されたデータ汚染を適用し、敵対的学習データのシナリオを模擬する。
• 非摂動データ、特徴量摂動データ、ラベル摂動データという3つのデータセットに基づき、ベースモデルの予測確率を統合する線形スタッキング手法を用いる。
• すべてのベースモデルの事後確率の合計が最大となるクラスを選択するため、メタラーナー（第2段階SVM）レベルでソフト投票アンサンブルを実装する。
• すべての摂動スキームにわたって、敵対的条件下でのモデル性能を精度と頑健性の観点から測定することで評価する。
• 大規模な特徴量集合に起因するメモリ制約を管理するため次元削減を採用するが、本研究ではその範囲を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 敵対的に摂動を加えたデータでベース分類器を学習させることで、マルウェア分類におけるデータ汚染攻撃に対する耐性が向上するか？
• RQ2 異なる摂動スキームで学習された複数のベースモデルをスタックすることにより、全体の分類精度と頑健性にどのような影響を与えるか？
• RQ3 メタラーナーのレベルでソフト投票アンサンブルを用いることで、敵対的データに対して耐性が向上し、クリーンデータ上の性能が維持されるか？
• RQ4 スタックドモデルにおいて、敵対的条件下での頑健性と非摂動データ上の精度の間にはどのようなトレードオフが生じるか？
• RQ5 すべての摂動スキームにわたる最終的なソフト投票アンサンブルにより、実世界の敵対的状況下でのモデルの頑健性がさらに向上するか？

主な発見

• 第2段階SVMメタラーナーを用いたスタックドアンサンブルモデルは、敵対的条件下で、すべての個々のベースモデルを上回る性能を示した。
• 最終的なスタックドモデルは、汚染済みデータで学習された後でも高い精度を維持しており、データ汚染の影響を効果的に緩和していることを示した。
• すべての摂動スキームにわたるソフト投票アンサンブルアプローチにより、個々のモデルと比較してモデルの頑健性が顕著に向上した。
• 非摂動データではわずかな精度の低下が観察されたが、敵対的耐性の大幅な向上を考慮すると、このトレードオフは正当化された。
• 本手法は、多様な摂動タイプで学習されたモデルを効果的に統合でき、より適応的で知的な分類システムを実現した。
• 本研究は、実世界のサイバーデフェンス応用における頑健で知的なマルウェア分類システムの実用的導入の基盤を提供する。