[論文レビュー] Robust and Accurate Object Detection via Adversarial Learning

Xiangning Chen, Cihang Xie+4 more|arXiv (Cornell University)|Mar 23, 2021

Adversarial Robustness in Machine Learning参考文献 44被引用数 5

ひとこと要約

本稿では、微調整中に分類および局所化ブランチからより強力な adversarial 例を動的に選択する、オブジェクト検出のためのモデル依存的データ拡張手法 Det-AdvProp を提案する。検出器とともに進化させ、1つの補助バッチ正則化を用いることで、SOTA の EfficientDet モデルが COCO で +1.1 mAP、損傷を加えた画像で +3.8 mAP、ドメインシフトベンチマークで +1.3 mAP 向上し、AutoAugment などのモデル非依存手法を上回る。

ABSTRACT

Data augmentation has become a de facto component for training high-performance deep image classifiers, but its potential is under-explored for object detection. Noting that most state-of-the-art object detectors benefit from fine-tuning a pre-trained classifier, we first study how the classifiers' gains from various data augmentations transfer to object detection. The results are discouraging; the gains diminish after fine-tuning in terms of either accuracy or robustness. This work instead augments the fine-tuning stage for object detectors by exploring adversarial examples, which can be viewed as a model-dependent data augmentation. Our method dynamically selects the stronger adversarial images sourced from a detector's classification and localization branches and evolves with the detector to ensure the augmentation policy stays current and relevant. This model-dependent augmentation generalizes to different object detectors better than AutoAugment, a model-agnostic augmentation policy searched based on one particular detector. Our approach boosts the performance of state-of-the-art EfficientDets by +1.1 mAP on the COCO object detection benchmark. It also improves the detectors' robustness against natural distortions by +3.8 mAP and against domain shift by +1.3 mAP. Models are available at https://github.com/google/automl/tree/master/efficientdet/Det-AdvProp.md

研究の動機と目的

• ImageNet の事前学習における高度なデータ拡張による性能向上が、オブジェクト検出の微調整後に伝播しない理由を調査すること。
• AutoAugment のようなモデル非依存のデータ拡張方針がオブジェクト検出において一般化に限界を示す問題に対処すること。
• 微調整中に検出器とともに進化する、モデル依存的で適応的なデータ拡張戦略を考案すること。
• 自然な画像の損傷およびドメインシフト下でのオブジェクト検出器の精度と耐性を向上させること。
• 検出ヘッドから得られる adversarial 例が、微調整のための標準的な拡張よりも効果的であることを示すこと。

提案手法

• Det-AdvProp は、訓練中に分類損失 ($L_{cls}$) または局所化損失 ($L_{loc}$) を攻撃することで adversarial 例を生成する。
• 各訓練ステップで、$L_{cls}$ と $L_{loc}$ からの adversarial 勾配を局所的に比較し、より強力で破壊的な影響を持つ例を選択する。
• 選択された adversarial 例に、1つの補助バッチ正則化層を適用して、元の画像の統計を保持し、過剰正則化を回避する。
• 両方の adversarial 例を同時に適用するのを避けることで、勾配の矛盾を防ぎ、性能の低下を回避する。
• 固定された摂動予算 ($\epsilon=1$) を用いた非標的 adversarial 攻撃により、タスクに適した頑健な摂動を生成する。
• バックボーンアーキテクチャを変更せずに、特に EfficientDet および RetinaNet の微調整段階に統合する。

実験結果

リサーチクエスチョン

• RQ1 ImageNet の事前学習における高度なデータ拡張による性能向上が、オブジェクト検出の微調整後に薄れる理由は何か？
• RQ2 adversarial 例は、オブジェクト検出器の微調整のための効果的で、モデル依存的なデータ拡張として機能するか？
• RQ3 分類および局所化ブランチからの adversarial 例を動的に選択することは、両方を併用するか、いずれも使用しない場合と比べてどのように異なるか？
• RQ4 AutoAugment のようなモデル非依存方針と比較して、Det-AdvProp のようなモデル依存的拡張戦略は、オブジェクト検出でより一般化性を示すか？
• RQ5 Det-AdvProp は、自然な画像の損傷およびドメインシフトに対して、どの程度耐性を向上させられるか？

主な発見

• Det-AdvProp は、EfficientDet-D3 において、クリーンな COCO で +0.8 mAP、COCO-C で +2.0 mAP、rPC で +3.2 mAP 向上させ、すべてのアブレーションバリアントを上回る。
• EfficientDet-D5 では、クリーンな COCO で +0.5 mAP、COCO-C で +2.3 mAP、rPC で +3.9 mAP の向上を達成し、スケールにわたる一貫性のある向上を示した。
• ResNet50 を用いた RetinaNet では、COCO で mAP を 35.6 から 36.1 に、COCO-C で 17.8 から 19.7 に向上させ、EfficientDet にとどまらない有効性を確認した。
• 両方の adversarial 例を用い、3つのバッチ正則化層（3BN）を適用したバリアントは、最高の耐性を示したが、クリーンデータでのアンダーフィットを引き起こし、過剰正則化の兆候を示した。
• Det-AdvProp は、すべての設定で AutoAugment を常に上回り、モデル依存的で進化する拡張が、静的でモデル非依存のポリシーに比べてより効果的であることを証明した。
• 分類損失を攻撃すると、損傷を加えた画像でより強い向上が得られ、分類ヘッドの劣化が損傷下での耐性低下の主な要因であると考えられる。