[論文レビュー] Developing Imperceptible Adversarial Patches to Camouflage Military Assets From Computer Vision Enabled Technologies

Christopher Wise, Jo Plested|arXiv (Cornell University)|Feb 17, 2022

Adversarial Robustness in Machine Learning被引用数 6

ひとこと要約

本稿では、コンピュータビジョンベースの検出システムから大規模な軍用機を効果的に camouflage する、目に見えない敵対的パッチを生成する新規手法を提案する。オブジェクト検出器に対する高い攻撃成功率と最小限の知覚的色差（PerC）を最適化することで、人間の検出を回避しながらも、CNN を用いた監視およびミサイル誘導システムを混乱させる、頑健で印刷可能なパッチを生成する。

ABSTRACT

Convolutional neural networks (CNNs) have demonstrated rapid progress and a high level of success in object detection. However, recent evidence has highlighted their vulnerability to adversarial attacks. These attacks are calculated image perturbations or adversarial patches that result in object misclassification or detection suppression. Traditional camouflage methods are impractical when applied to disguise aircraft and other large mobile assets from autonomous detection in intelligence, surveillance and reconnaissance technologies and fifth generation missiles. In this paper we present a unique method that produces imperceptible patches capable of camouflaging large military assets from computer vision-enabled technologies. We developed these patches by maximising object detection loss whilst limiting the patch's colour perceptibility. This work also aims to further the understanding of adversarial examples and their effects on object detection algorithms.

研究の動機と目的

• AI による監視およびミサイルシステムから、航空機のような大規模で移動可能な装備を camouflage する軍事的課題に対処すること。
• 人間には見えないが、オブジェクト検出モデルに対して高い効果を示す敵対的パッチを開発すること。
• 従来の研究の限界を克服し、パッチが小さく、現実的サイズであり、航空機への実世界での展開が可能であることを保証すること。
• 実世界の画像条件における、敵対的ロバストネスと知覚的不可視性のトレードオフを解明すること。
• 将来的な防御用途に向けた、印刷可能で輪郭認識型かつ普遍的に効果的な敵対的パッチの基盤を提供すること。

提案手法

• 本手法は、検出器をだますために物体検出損失を最大化し、人間の不可視性を確保するために知覚的色（PerC）距離を最小化する二重最適化目的を用いる。
• パッチの適用オペレータ $ A(p, x, l, t) $ を採用し、画像 $ x $ の位置 $ l $ にパッチ $ p $ を、回転・スケーリングなどのランダム変換 $ t $ を加えて適用することで、ロバストネスを向上させる。
• パッチ $ \\-hat{p} $ は $ \\-hat{p} = \text{argmax}_{\textbf{p}} \mathbb{E}_{x\sim X, t\sim T, l\sim L}[\log \text{Pr}(\hat{y} | A(p,x,l,t))] $ を通じて最適化され、さまざまな条件下での普遍的性能を保証する。
• 知覚的色（PerC）距離は、人間の視覚感受性をよりよく反映するため、従来の $ L_\infty $ 範囲に代わる知覚的不可視性制約として用いられる。
• 検出損失と不可視性損失（PerC-AL）の更新を交互に繰り返すことで、ハイパーパramータのチューニングを減らし、収束を改善する。
• 本手法は、航空機の輪郭に合わせたパッチの生成と、デカールとして印刷可能な形に最適化されており、セマンティックセグメンテーションを用いたパッチ形状のガイド付き設計の可能性も有する。

実験結果

リサーチクエスチョン

• RQ1 深層学習ベースの視覚システムによる大規模な軍用機の検出を効果的に抑制できる、目に見えない敵対的パッチを生成できるか？
• RQ2 従来の $ L_\infty $ 制約と比較して、知覚的色（PerC）距離を用いることで、敵対的パッチの視覚的不可視性をどのように向上させられるか？
• RQ3 パッチのサイズ、形状、配置が、実世界の展開状況におけるパッチのロバストネスと不可視性に与える影響は何か？
• RQ4 多様な照明、角度、背景条件下でも、視覚的に検出されないまま敵対的パッチの効果を維持できるか？
• RQ5 知覚不可視性と攻撃損失の更新を交互に実行する（PerC-AL）戦略は、従来のアプローチと比較して、パッチ生成の効率性と性能をどのように向上させるか？

主な発見

• 提案された PerC-AL 法は、オブジェクト検出の抑制効果が高く、人間の観察者にはほとんど見えない敵対的パッチを成功裏に生成した。
• PerC 損失を用いて訓練されたパッチは、$ L_\infty $ 制約を用いたものでさえも、不可視性の観点で顕著に優れていた。
• 交互更新戦略（PerC-AL）により、結合最適化に比べてハイパーパramータのチューニングが大幅に減少し、収束速度が向上した。
• 本手法は、小さく現実的サイズのパッチを生成でき、デカールとして印刷可能であり、航空機への実用的展開が可能である。
• 予備的な結果では、さまざまな方向や照明条件下でもパッチが有効であることが示され、変換に対する強い一般化能力を示している。
• 本研究では、輪郭認識型パッチ設計とセマンティックセグメンテーションの活用が、パッチの現実性と効果をさらに高められることを同定し、印刷可能で形状制約付きの普遍的敵対的パッチの開発への道筋を示した。