[論文レビュー] Con$^{2}$DA: Simplifying Semi-supervised Domain Adaptation by Learning Consistent and Contrastive Feature Representations

Manuel Pérez-Carrasco, Pavlos Protopapas+1 more|arXiv (Cornell University)|Apr 4, 2022

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

Con2DA は、確率的データ拡張と正規化された特徴空間最適化を通じて一貫性および対照的特徴表現を学習することにより、半教師ありドメイン適応（SSDA）のためのシンプルでありながら効果的なフレームワークを提案する。弱いおよび強い拡張ビュー間の一貫性を強制し、対照的および自己教師的損失を活用することで、Office-31、Office-Home、DomainNet で最先端の性能を達成し、最大1.4%の精度向上を実現した。

ABSTRACT

In this work, we present Con$^{2}$DA, a simple framework that extends recent advances in semi-supervised learning to the semi-supervised domain adaptation (SSDA) problem. Our framework generates pairs of associated samples by performing stochastic data transformations to a given input. Associated data pairs are mapped to a feature representation space using a feature extractor. We use different loss functions to enforce consistency between the feature representations of associated data pairs of samples. We show that these learned representations are useful to deal with differences in data distributions in the domain adaptation problem. We performed experiments to study the main components of our model and we show that (i) learning of the consistent and contrastive feature representations is crucial to extract good discriminative features across different domains, and ii) our model benefits from the use of strong augmentation policies. With these findings, our method achieves state-of-the-art performances in three benchmark datasets for SSDA.

研究の動機と目的

• 限定的なラベル付きターゲットデータを前提としたドメインシフトの課題に対処すること。
• 最近の一貫性正則化および対照的学習の進展を SSDA の文脈に拡張すること。
• 正規化された特徴表現を用いて、ソースドメインとターゲットドメイン間の一般化性能および特徴の識別性を向上させること。
• 強力なデータ拡張方針および損失成分が SSDA におけるモデル性能に与える影響を調査すること。
• 複雑なアーキテクチャの変更なしに、標準的な SSDA ベンチマークで最先端の性能を達成すること。

提案手法

• 同じ入力を対となるビューとして生成するため、確率的で弱いおよび強いデータ拡張（例：ランダムクロップ、水平反転、RandAugment）を適用する。
• 拡張された入力を共有の特徴抽出器を通過させ、出力特徴を単位超球に正規化する。
• 同じサンプル（ポジティブペア）同士を引き寄せる対照的損失を用いて、弱いおよび強い拡張ビュー間の特徴の一貫性を強制する。
• ラベルなしターゲットデータに対して自己教師的対照的損失を適用し、ポジティブペアを一致させ、異なる入力同士のネガティブペアを分離する。
• 交差エントロピーとコサイン類似度損失を用いて、ラベル付きソースおよびターゲットデータを、正規化されたプロトタイプを用いた線形分類器で監視する。
• トレーニング中に一貫性、対照的、自己教師的成分を統合した組み合わせ損失関数を最適化する。

実験結果

リサーチクエスチョン

• RQ1 一貫性学習と対照的学習を半教師ありドメイン適応に効果的に統合することで、特徴の一般化性能を向上させられるか？
• RQ2 RandAugment などの強力な拡張方針は、低ショット SSDA 環境における性能にどのように影響を与えるか？
• RQ3 対照的損失と自己教師的損失の相対的な貢献度は、ドメイン整合性の向上にどの程度寄与するか？
• RQ4 線形分類器の重みを正規化することで、ラベル付きデータが限られた SSDA 環境での性能が向上するか？
• RQ5 提案された各構成要素が、標準的な SSDA ベンチマークで最先端の結果を達成するためにどのように相互作用するか？

主な発見

• 特に RandAugment を含む強力な拡張方針の使用は、性能を顕著に向上させ、Office-31 (W→A) ではバリデーション精度を3.3%、DomainNet (R→C) では1.3%向上させた。
• 対照的損失を除去した場合（w/o ℒcont）は、Office-31 (W→A) で精度が66.7%に低下し、強固な表現学習におけるその重要性が示された。
• 自己教師的損失を除去した場合（w/o ℒself）は、Office-31 (W→A) で2.2%の精度低下を示し、ラベルなしターゲットデータの活用におけるその重要性が確認された。
• 線形分類器の重みを正規化した場合（w cosine）は、Office-31 (W→A) で72.0%の精度に向上し、プロトタイプとのコサイン類似度が一般化性能を向上させることを示した。
• Con2DA は、Office-31、Office-Home、DomainNet で最先端の性能を達成し、先行手法と比較して平均精度を最大1.4%向上させた。
• アブレーションスタディにより、一貫性、対照的、自己教師的損失の組み合わせが、SSDA における最適性能を達成するために不可欠であることが確認された。