[論文レビュー] Physical Adversarial Attack meets Computer Vision: A Decade Survey

Hui Wei, Hao Tang+7 more|arXiv (Cornell University)|Sep 30, 2022

Adversarial Robustness in Machine Learning被引用数 22

ひとこと要約

過去十年間における物理的 adversarial 攻撃の包括的調査で、adversarial medium 概念と hiPAA 評価指標を導入し、タスクを横断して方法を系統的に比較する。

ABSTRACT

Despite the impressive achievements of Deep Neural Networks (DNNs) in computer vision, their vulnerability to adversarial attacks remains a critical concern. Extensive research has demonstrated that incorporating sophisticated perturbations into input images can lead to a catastrophic degradation in DNNs' performance. This perplexing phenomenon not only exists in the digital space but also in the physical world. Consequently, it becomes imperative to evaluate the security of DNNs-based systems to ensure their safe deployment in real-world scenarios, particularly in security-sensitive applications. To facilitate a profound understanding of this topic, this paper presents a comprehensive overview of physical adversarial attacks. Firstly, we distill four general steps for launching physical adversarial attacks. Building upon this foundation, we uncover the pervasive role of artifacts carrying adversarial perturbations in the physical world. These artifacts influence each step. To denote them, we introduce a new term: adversarial medium. Then, we take the first step to systematically evaluate the performance of physical adversarial attacks, taking the adversarial medium as a first attempt. Our proposed evaluation metric, hiPAA, comprises six perspectives: Effectiveness, Stealthiness, Robustness, Practicability, Aesthetics, and Economics. We also provide comparative results across task categories, together with insightful observations and suggestions for future research directions.

研究の動機と目的

• 現実世界の環境で物理的 adversarial attack がどのように構築され、評価されるかを明確にする。
• 現実世界の攻撃キャリアを統一するための adversarial medium 概念を導入する。
• 手法を比較するための六つの視点を備えた統一評価フレームワーク hiPAA を提案する。
• CV タスク（分類、検出、再識別）にまたがる手法を調査・総合し、未解決の課題を特定する。）

提案手法

• 物理的 adversarial attacks の four-step ワークフローを定義する: perturbation generation、adversarial medium manufacturing、threat image capture、and attacking。
• 物理的世界における摂動のキャリアとしての adversarial medium の概念を導入する。
• 六つの次元（Effectiveness、Stealthiness、Robustness、Practicability、Aesthetics、Economics）に沿って物理攻撃を評価する六角形の指標 hiPAA を提案する。
• adversarial medium（stickers/patches、clothing、images、lights、cameras、TC materials、makeup、3D-printed artifacts）で整理された、タスク別の構造化された物理攻撃手法の調査を提供する。
• 将来の研究と実世界での展開を導くための比較分析と洞察を提供する。

実験結果

リサーチクエスチョン

• RQ1 過去十年間で支配的な物理的 adversarial attack mediums は何であり、それらはどのように進化してきたか？
• RQ2 CVタスク全体で異なる物理的攻撃手法を比較するための統一評価フレームワークはどのように設計できるか？
• RQ3 攻撃の有効性、潜伏性、頑健性、実用性に影響を与える主要な制約と現実世界の課題は何か？

主な発見

• 統一された four-step ワークフローと adversarial medium 概念は、物理的摂動がどのように運ばれ、製造され、捕捉され、使用されるかを明らかにする。
• hiPAA 指標は、タスクを横断する物理攻撃を比較するための構造化された多基準ベースを提供する。
• 物理的 adversarial attacks は、顔認識、人物再識別、交通標識検出、その他のタスク（オプティカルフロー、深度推定、セグメンテーション）といった複数のCVタスクで実証されている。
• 本調査は、媒体と時系列で多くの手法を統合し、進展、制約、実世界での展開における実用的考慮事項を浮き彫りにする。