[論文レビュー] Domain Adaptation with Adversarial Training on Penultimate Activations

Tao Sun, Cheng Lu+1 more|arXiv (Cornell University)|Aug 26, 2022

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本稿では、教師なしドメイン適応（UDA）における、最終分類層に接続される特徴（ペンルティメートアクティベーション）に対する adversarial training の提案を行う。この手法は、入力画像や中間特徴に対する adversarial training よりも、ターゲットデータにおけるモデルの信頼性をより効果的に向上させることを示している。本手法は、標準的およびソースデータフリー UDA ベンチマークで最先端の性能を達成しており、アブレーションスタディにより、アクティベーション正規化と top-k ラベルに基づく摂動近似によって、より高いロバスト性と効率性が得られることを示している。

ABSTRACT

Enhancing model prediction confidence on target data is an important objective in Unsupervised Domain Adaptation (UDA). In this paper, we explore adversarial training on penultimate activations, i.e., input features of the final linear classification layer. We show that this strategy is more efficient and better correlated with the objective of boosting prediction confidence than adversarial training on input images or intermediate features, as used in previous works. Furthermore, with activation normalization commonly used in domain adaptation to reduce domain gap, we derive two variants and systematically analyze the effects of normalization on our adversarial training. This is illustrated both in theory and through empirical analysis on real adaptation tasks. Extensive experiments are conducted on popular UDA benchmarks under both standard setting and source-data free setting. The results validate that our method achieves the best scores against previous arts. Code is available at https://github.com/tsun/APA.

研究の動機と目的

• 教師なしドメイン適応（UDA）における、ラベルなしターゲットドメインデータのモデル予測信頼性の向上を目的とする。
• 入力画像や中間特徴に対する従来の adversarial training 手法が、信頼性向上という目的と相関が低く、非効率である問題に対処することを目的とする。
• 信頼性向上という目的に対してより直接的かつ効果的な戦略として、ペンルティメートアクティベーションにおける adversarial training を検討することを目的とする。
• アクティベーション正規化がペンルティメート特徴における adversarial training の性能と勾配ダイナミクスに与える影響を分析し、2 種類の正規化付き変種を導出することを目的とする。
• 広範な実験を通じて、標準的およびソースデータフリー UDA の両設定において、本手法の優位性を検証することを目的とする。

提案手法

• 入力画像や中間特徴ではなく、最終線形分類器に接続されるペンルティメートアクティベーション（特徴）に対して、直接 adversarial training を適用する。
• オリジナルのペンルティメートアクティベーションと摂動を加えたアクティベーションの間の予測差を最大化する adversarial loss を定式化し、交差エントロピーに基づく差異を用いる。
• 2 種類の変種を導出：非正規化アクティベーションに対する adversarial perturbation（APA）と、ℓ₂ ノルムによる正規化を施したアクティベーションに対する adversarial perturbation（APA^n）。
• 摂動は、ペンルティメート特徴に対して投影勾配上昇法により最適化され、勾配は線形分類器を介してのみ計算されるため、計算コストが低減される。
• top-k 仮ラベルに基づく摂動近似を導入し、摂動計算に最も信頼性の高い k 個のクラスのみを用いることで、効率性とモデルの信頼性目標との整合性が向上する。
• 理論的および実験的分析により、ペンルティメート特徴における摂動が adversarial loss を維持しながらも、最適化が単純で信頼性目標と整合性が高いため、より高い精度を達成することが示された。

実験結果

リサーチクエスチョン

• RQ1 ペンルティメートアクティベーションにおける adversarial training は、入力画像や中間特徴に対するものよりも、UDA における予測信頼性の向上に有効であるか？
• RQ2 アクティベーション正規化は、ペンルティメート特徴における adversarial training の性能と勾配ダイナミクスにどのように影響を与えるか？
• RQ3 top-k 仮ラベルに基づく摂動近似は、全量の adversarial training と同等の性能を達成しつつ、計算コストを低減できるか？
• RQ4 実際の UDA タスクにおいて、adversarial 摂動、アクティベーション勾配、およびモデル更新後の実際のアクティベーション変化の間にはどのような関係があるか？
• RQ5 提案手法は、標準的およびソースデータフリー UDA の両設定において、既存の最先端手法を上回る性能を示すか？

主な発見

• 提案手法 APA は、標準的 UDA ベンチマークで最先端の精度を達成し、FixMatch や SENTRY を含む従来手法を上回った。
• Office-Home データセットでは、ソースデータフリー設定で 83.88% の top-1 精度を達成し、次に優れた手法より 0.34 パcentage points 以上優れていた。
• 正規化済み変種 APA^n も Office-Home で 83.88% の精度を達成し、正規化が性能と安定性を向上させることを示した。
• top-k ラベルに基づく摂動近似は、全量の APA と同等の結果を達成しており、k=5 の場合、Office-Home で 83.54% の精度を達成した。これは、高信頼度クラスに注目することで十分であることを示唆している。
• アブレーションスタディにより、ペンルティメート特徴における adversarial training が、入力または特徴レベルの adversarial training よりも高い精度と信頼性目標との相関性を示した。
• 全量摂動と top-k 近似摂動の間のコサイン類似度は、k≥3 の場合常に高く（0.8 以上）、近似の有効性が裏付けられた。