[論文レビュー] Efficient Black-box Optimization of Adversarial Windows Malware with Constrained Manipulations.

Luca Demetrio, Battista Biggio+3 more|arXiv (Cornell University)|Mar 30, 2020

Advanced Malware Detection Techniques被引用数 8

ひとこと要約

本稿では、各最適化ステップでのサンドボックス実行を必要とせず、検出を回避するために制約付きで意味を保ったコード操作を用いる、Windowsマルウェア検出機器向けのブラックボックス攻撃を提案する。この手法は攻撃を制約付き最小化問題として定式化し、少ない反復回数で効率的に回避を達成するとともに、商用AVに対しても高い転送性を示し、計算コストを著しく低減しながらもペイロードの機能を維持する。

ABSTRACT

Windows malware detectors based on machine learning are vulnerable to adversarial examples, even if the attacker is only given black-box access to the model. The main drawback of these attacks is that they require executing the adversarial malware sample in a sandbox at each iteration of its optimization process, to ensure that its intrusive functionality is preserved. In this paper, we present a novel black-box attack that leverages a set of semantics-preserving, constrained malware manipulations to overcome this computationally-demanding validation step. Our attack is formalized as a constrained minimization problem which also enables optimizing the trade-off between the probability of evading detection and the size of the injected adversarial payload. We investigate this trade-off empirically, on two popular static Windows malware detectors, and show that our black-box attack is able to bypass them with only few iterations and changes. We also evaluate whether our attack transfers to other commercial antivirus solutions, and surprisingly find that it can increase the probability of evading some of them. We conclude by discussing the limitations of our approach, and its possible future extensions to target malware classifiers based on dynamic analysis.

研究の動機と目的

• マルウェアに対する既存のブラックボックスアドバルサリー攻撃では、機能の検証に繰り返しサンドボックス実行が必要なため、計算コストが高くなる問題に対処する。
• マルウェアの意味を保持しつつ、効率的な最適化が可能なアドバルサリーペイロードの生成手法を開発する。
• 検出回避確率とペイロードサイズのトレードオフを最適化するため、攻撃を制約付き最小化問題として形式化する。
• 訓練や最適化に使用していない商用アンチウイルスソリューションに対しても、攻撃の転送性を評価する。
• リソース集約的な検証に依存せず、最小限の反復回数と変更で効果的な回避を達成できることを示す。

提案手法

• 検出回避確率とペイロードサイズのトレードオフを最適化するため、攻撃を制約付き最小化問題として定式化する。
• コードの再順序化や無害な命令の挿入など、意味を保った制約付き変換（例：意味を保つ変更）の集合を定義する。
• これらの制約付き変換をブラックボックス最適化の探索空間として用い、各ステップでのサンドボックス実行を回避する。
• 制約付き変換空間上で反復的最適化を適用し、アドバルサリー・マルウェア・サンプルを生成する。
• Windows PEバイナリの構造的性質を活用し、変更がマルウェアの基本的動作に影響しないようにする。
• 2つの静的マルウェア検出器上で実験的にアプローチを検証し、商用AVへの転送性を評価する。

実験結果

リサーチクエスチョン

• RQ1 繰り返しサンドボックス実行を伴わずに、ブラックボックス環境で効率的にアドバルサリー・マルウェアを生成できるか？
• RQ2 制約付きで意味を保ったコード操作は、検出回避の実現と並行してマルウェアの機能をどの程度維持できるか？
• RQ3 提案手法は、検出回避成功確率とペイロードサイズのバランスをどの程度効果的に最適化できるか？
• RQ4 訓練や最適化に使用していない商用アンチウイルスソリューションに対しても攻撃は転送可能か？
• RQ5 本手法を用いて信頼性の高い回避を達成するために必要な最小反復回数はどの程度か？

主な発見

• 提案手法は、わずか数回の反復と最小限のコード変更で、2つの一般的な静的Windowsマルウェア検出器を回避する。
• 各最適化ステップでのサンドボックス実行が不要となり、計算コストが著しく低減される。
• 攻撃は予想外の高い転送性を示し、特定の商用アンチウイルスソリューションにおける検出回避率を向上させる。
• 制約付き変換空間は、マルウェアの機能を効果的に保持しつつ、有効なアドバルサリー摂動を可能にする。
• 制約付き最小化の定式化により、検出回避確率とペイロードサイズのトレードオフが効果的に最適化される。
• 本手法は、マルウェア検出システムに対する実世界のアドバルサリー攻撃において、強い実用的妥当性を示す。