[論文レビュー] Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes.
本稿では、低クエリ予算下でも、構造的で低次元の部分空間内で adversarial examples を探索することによって、効率的に動作するベイズ最適化ベースのブラックボックス攻撃を提案する。高次元最適化の問題を回避することで、従来の手法と比べて数個のオーダー少ないクエリで最先端の性能を達成する。
We focus on the problem of black-box adversarial attacks, where the aim is to generate adversarial examples for deep learning models solely based on information limited to output labels (hard label) to a queried data input. We use Bayesian optimization (BO) to specifically cater to scenarios involving low query budgets to develop efficient adversarial attacks. Issues with BO's performance in high dimensions are avoided by searching for adversarial examples in structured low-dimensional subspace. Our proposed approach achieves better performance to state of the art black-box adversarial attacks that require orders of magnitude more queries than ours.
研究の動機と目的
- モデル出力へのアクセスが制限されたブラックボックス設定、特にハードラベルのみの環境において adversarial examples を生成する課題に対処すること。
- 実世界の展開状況において極めて重要な、効果的な敵対的攻撃に必要なクエリ予算を低減すること。
- 高次元空間におけるベイズ最適化の限界を克服するため、低次元で構造的な部分空間に焦点を当てること。
- 従来の手法と比べてはるかに少ないクエリで最先端の攻撃性能を達成すること。
提案手法
- 本手法は、ハードラベルフィードバックのみを用いて、入力空間における敵対的摂動の探索を効率的に行うためにベイズ最適化（BO）を採用する。
- 敵対的例が存在する可能性がより高い低次元で構造的な部分空間に焦点を当てることで、探索空間の次元を低減する。
- 攻撃成功確率を低次元部分空間上でガウス過程としてモデル化し、能動的かつ情報に基づいたクエリ選択を可能にする。
- 探索と活用のバランスを取るために、クエリ制約が厳しい状況下でも適切に敵対的例を探索するための獲得関数を用いる。
- ノイズが多く、スパarsityが顕著なハードラベルフィードバックに対しても頑健であるように設計されており、サンプル効率を向上させる。
実験結果
リサーチクエスチョン
- RQ1極めて低いクエリ予算下において、ハードラベルブラックボックス敵対的攻撃にベイズ最適化を効果的に適応できるか？
- RQ2低次元で構造的な部分空間での探索が、ブラックボックス攻撃の効率性と成功率をどのように向上させるか？
- RQ3本手法は、従来の最先端ブラックボックス攻撃手法と比較して、クエリ効率の面でどの程度の性能向上を達成するか？
- RQ4本手法は、高次元入力空間におけるベイズ最適化のスケーラビリティの問題をどの程度軽減できるか？
主な発見
- 提案手法は、従来の手法と比べてはるかに少ないクエリで、標準ベンチマーク上での最先端の攻撃成功確率を達成した。
- 既存のブラックボックス攻撃手法と比較して、必要なクエリ予算を数個のオーダー減少させた。
- 低次元で構造的な部分空間の使用により、元の入力空間の高次元性にもかかわらず、効果的なベイズ最適化が可能になった。
- ノイズが多くスパースなハードラベルフィードバック下でも、本手法は高い性能を維持し、高い効率性を示した。
より良い研究を、今すぐ始めましょう
論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。