[論文レビュー] Fourier-Based Augmentations for Improved Robustness and Uncertainty Calibration

Ryan Soklaski, Michael Yee+1 more|arXiv (Cornell University)|Feb 24, 2022

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本稿では、AugMixフレームワークに周波数特化した正弦波摂動を統合することで、一般的な画像劣化およびユニバーサル adversarial perturbations に対して強いモデルの耐性を向上させる、Fourierに基づくデータ拡張法であるAugSVFを提案する。この手法は、CIFAR-10-CおよびCIFAR-100-Cにおける高深刻度のノイズおよびデジタル劣化に対して分類誤差を10パーセンテージポイント以上低減させるとともに、不確実性のキャリブレーションを向上させ、Fourier基底攻撃に対する脆弱性を低減する。

ABSTRACT

Diverse data augmentation strategies are a natural approach to improving robustness in computer vision models against unforeseen shifts in data distribution. However, the ability to tailor such strategies to inoculate a model against specific classes of corruptions or attacks -- without incurring substantial losses in robustness against other classes of corruptions -- remains elusive. In this work, we successfully harden a model against Fourier-based attacks, while producing superior-to-AugMix accuracy and calibration results on both the CIFAR-10-C and CIFAR-100-C datasets; classification error is reduced by over ten percentage points for some high-severity noise and digital-type corruptions. We achieve this by incorporating Fourier-basis perturbations in the AugMix image-augmentation framework. Thus we demonstrate that the AugMix framework can be tailored to effectively target particular distribution shifts, while boosting overall model robustness.

研究の動機と目的

• 特定の分布シフト、特にFourier基底 adversarial 摂動に対してモデルの耐性を向上させつつ、一般的な劣化に対する性能を損なわないようにすること。
• AugMixフレームワークにFourier基底摂動を組み込むことで、自然な劣化およびユニバーサル adversarial 攻撃の両方に対する耐性を同時に向上させることができるかどうかを調査すること。
• 周波数ドメインの成分を用いたターゲティングされた拡張が、標準的なAugMixを上回る不確実性のキャリブレーションおよび一般化性能を向上させることを評価すること。
• Fourierに基づく摂動に対する耐性が、他の周波数特化型 adversarial 攻撃に対しても耐性向上と相関するかどうかを特定すること。

提案手法

• 2次元Fourier基底行列を拡張プリミティブとして明示的に統合した、AugMixフレームワークの拡張版であるAugSVFを導入する。
• 波数ベクトル $\vec{k} = [k_x, k_y]$ で定義される2次元正弦波平面波を用いて、周波数と方向が制御された摂動を生成し、その大きさ $\left\|U\right\|_2$ が摂動の強度を制御する。
• 入力画像の各カラーチャネルに要素ごとの加算を適用することで、これらのFourierベースの拡張を訓練中に適用し、エネルギーのレベルを一定に保つために正規化を行う。
• 標準的なAugMix操作とFourier基底拡張を混合してモデルを訓練し、広範な周波数および方向の範囲をカバーする摂動を確保する。
• すべてのFourier基底行列に対して固定された位相シフト $\phi = \pi/4$ を使用し、$\left\|U\right\|_2 > 2$ となる訓練例を除外することで、一般化性能を維持し、極端な摂動への過学習を回避する。
• 分類誤差の平均値と最大値を測定することで、CIFAR-10-CおよびCIFAR-100-CにおけるランダムおよびターゲティングされたFourier基底劣化の下での耐性を評価する。

実験結果

リサーチクエスチョン

• RQ1 AugMixフレームワークにFourier基底摂動を拡張することで、一般的な画像劣化およびターゲティングされたFourierベースの adversarial 攻撃の両方に対するモデルの耐性を向上させることができるか？
• RQ2 データ拡張に周波数特化した摂動を組み込むことで、特に高周波数劣化と低周波数劣化の間で耐性にトレードオフが生じるか？
• RQ3 Fourierベースの拡張を組み込むことで、標準的なAugMixと比較して不確実性キャリブレーションがどの程度向上するか？
• RQ4 Fourier基底摂動に対する耐性が、他の周波数ベースのユニバーサル adversarial 摂動に対しても一般化性能の向上と相関するか？

主な発見

• 標準的なAugMixと比較して、CIFAR-10-CおよびCIFAR-100-Cにおけるいくつかの高深刻度のノイズおよびデジタル劣化において、AugSVFは分類誤差を10パーセンテージポイント以上低減する。
• 摂動強度 $\left\|U\right\|_2 = 2$ のターゲティングされたFourier基底攻撃において、CIFAR-10では最大分類誤差をベースモデルの88％およびAugSVの83％から28％に低下させ、CIFAR-100では98％および95％から73％に低下させる。
• コントラストおよびインパulseノイズを除き、すべての劣化タイプにおいて耐性を維持または向上させる。これは、最小限の負のトレードオフを示している。
• 不確実性キャリブレーションが顕著に向上し、標準テスト条件下でCIFAR-10では平均二乗誤差のキャリブレーション誤差を22から8に、CIFAR-100では34から16に低下させる。
• Fourier基底摂動の周波数および方向のあらゆる範囲で、モデルの性能がほぼ一定に保たれるため、広帯域の耐性が得られていることが示された。
• Clean精度および耐性の両面で、BaseおよびAugSVモデルを上回る性能を示しており、ターゲティングされた周波数ドメイン拡張が性能を犠牲にすることなく一般化性能を向上させることを示している。