[論文レビュー] Prepare for the Worst: Generalizing across Domain Shifts with Adversarial Batch Normalization

Manli Shu, Zuxuan Wu+2 more|arXiv (Cornell University)|May 4, 2021

Adversarial Robustness in Machine Learning参考文献 39被引用数 6

ひとこと要約

本稿では、画像ピクセルではなくバッチ正規化の統計を敵対的に摂動させることでドメインシフトに対するモデルのロバスト性を向上させる手法であるAdversarial Batch Normalization (AdvBN) を提案する。AdvBNはImageNet-Cで+8.1%、Stylized-ImageNetで+6.7%、ImageNet-Instagramで+3.9%の性能向上を達成し、分布シフトにわたる強力な一般化を示している。

ABSTRACT

Adversarial training is the industry standard for producing models that are robust to small adversarial perturbations. However, machine learning practitioners need models that are robust to other kinds of changes that occur naturally, such as changes in the style or illumination of input images. Such changes in input distribution have been effectively modeled as shifts in the mean and variance of deep image features. We adapt adversarial training by adversarially perturbing these feature statistics, rather than image pixels, to produce models that are robust to distributional shifts. We also visualize images from adversarially crafted distributions. Our method, Adversarial Batch Normalization (AdvBN), significantly improves the performance of ResNet-50 on ImageNet-C (+8.1%), Stylized-ImageNet (+6.7%), and ImageNet-Instagram (+3.9%) over standard training practices. In addition, we demonstrate that AdvBN can also improve generalization on semantic segmentation.

研究の動機と目的

• 画像のスタイルや照明の変化といった自然な分布シフトに対する深層モデルのロバスト性を向上させること。
• ドメイン固有のデータ拡張を必要とせずにドメインシフト下での一般化を改善すること。
• 生のピクセルではなく特徴量の統計を標的とすることでロバスト性を向上させる訓練手法を開発すること。
• バッチ正規化の統計に対する敵対的摂動が、複数のベンチマークデータセットにおいて性能向上に有効であることを実証すること。

提案手法

• 敵対的訓練を、画像ピクセルではなくバッチ正規化層の累積平均および分散を摂動対象とするように適応させる。
• 訓練中に深層特徴の統計に敵対的ノイズを導入することで、分布シフトを模倣する。
• モデルの予測誤差を最大化するようにバッチ正規化の統計を摂動させることで、ロバスト性を促進する。
• ResNetやその他のモデルと互換性があるように、最小限のアーキテクチャ変更で標準的な訓練パイプラインに統合する。
• 敵対的に作成された分布からの画像の可視化を用いて、誘発された分布シフトを解釈する。

実験結果

リサーチクエスチョン

• RQ1 バッチ正規化の統計に対する敵対的摂動は、ドメインシフトに対するモデルのロバスト性を向上させることができるか？
• RQ2 AdvBNは、画像ピクセルに対する標準的な訓練および敵対的訓練と比較して、分布シフトの処理においてどのように異なるか？
• RQ3 AdvBNは、セマンティックセグメンテーションなどの下流タスクにおける一般化をどの程度向上させるか？
• RQ4 バッチ統計の敵対的摂動によってどのような分布シフトが誘発されるか？

主な発見

• AdvBNは、標準的な訓練と比較して、ImageNet-CにおけるResNet-50の精度を8.1%向上させる。
• Stylized-ImageNetでは6.7%の精度向上を達成し、スタイルシフトに対する強力なロバスト性を示している。
• ImageNet-Instagramでは3.9%の性能向上を示しており、実世界の分布シフトに対しても有効性を示している。
• この手法は画像分類を越えて一般化され、セマンティックセグメンテーションタスクの性能向上にも寄与している。