[論文レビュー] Cross-domain Contrastive Learning for Unsupervised Domain Adaptation

Rui Wang, Zuxuan Wu+4 more|arXiv (Cornell University)|Jun 10, 2021

Domain Adaptation and Few-Shot Learning参考文献 38被引用数 14

ひとこと要約

本論文は、異なるドメインからの同一クラスのサンプル間の距離を最小化し、異なるクラスのサンプルを分離することで、クロスドメイン特徴を整列させる対照的学習フレームワークCDCLを提案する。疑似ラベルを用いたターゲットドメイン特徴の利用により、Office-31およびVisDA-2017で最先端の性能を達成し、最小限の変更でデータフリー設定にも適応可能である。

ABSTRACT

Unsupervised domain adaptation (UDA) aims to transfer knowledge learned from a fully-labeled source domain to a different unlabeled target domain. Most existing UDA methods learn domain-invariant feature representations by minimizing feature distances across domains. In this work, we build upon contrastive self-supervised learning to align features so as to reduce the domain discrepancy between training and testing sets. Exploring the same set of categories shared by both domains, we introduce a simple yet effective framework CDCL, for domain alignment. In particular, given an anchor image from one domain, we minimize its distances to cross-domain samples from the same class relative to those from different categories. Since target labels are unavailable, we use a clustering-based approach with carefully initialized centers to produce pseudo labels. In addition, we demonstrate that CDCL is a general framework and can be adapted to the data-free setting, where the source data are unavailable during training, with minimal modification. We conduct experiments on two widely used domain adaptation benchmarks, i.e., Office-31 and VisDA-2017, for image classification tasks, and demonstrate that CDCL achieves state-of-the-art performance on both datasets.

研究の動機と目的

• 教師なしドメイン適応におけるドメインシフトを解消するため、ドメイン不変特徴を学習すること。
• 手動ラベルに依存せずに、対照的自己教師あり学習を用いてドメイン整列を実現すること。
• 標準的UDAおよびソースデータフリーUDAの両設定で有効な手法を開発すること。
• ドメイン間でクラス条件付き対照損失を用いることで、特徴整列を向上させること。
• プロトタイプベースの適応により、ドメイン適応におけるソースデータへの依存度を低減すること。

提案手法

• CDCLは、同じクラスに属するクロスドメインのサンプルをポジティブペアとし、異なるクラスのサンプルをネガティブペアとする対照損失を用いる。
• ターゲットドメインのサンプルに対する疑似ラベルは、ソースドメインのクラスプロトタイプで初期化されたk-meansクラスタリングによって生成される。
• 対照損失は、アーキテクチャ特徴と同一クラスのクロスドメイン特徴間の距離を、異なるクラスのクロスドメイン特徴との距離に対して最小化する。
• データフリー設定では、ソースサンプルが事前学習済みのクラスプロトタイプに置き換えられ、ソースデータにアクセスせずに適応が可能になる。
• フレームワークは温度パrameter τ と対照損失と分類損失のバランスを取るためのハイパーパrameter λ を用いる。
• クロスエントロピー損失と対照的損失の両方を用いたエンドツーエンドの訓練により、特徴表現が洗練される。

実験結果

リサーチクエスチョン

• RQ1 クロスドメインのポジティブペアおよびネガティブペアを形成することで、対照的自己教師あり学習を教師なしドメイン適応に効果的に適用できるか？
• RQ2 クラス条件付き対照的学習は、ドメインに依存しないまたはドメイン内での対照的学習手法と比較して、どのようにドメイン整列を改善するか？
• RQ3 トレーニング中にソースデータが利用できない状況でも、CDCLは強力な性能を維持できるか？
• RQ4 異なるベンチマークにおいて、CDCLはτ や λ などのハイパーパrameterにどれほど感度を示すか？
• RQ5 ソースから得られるプロトタイプの使用は、データフリー設定における効果的なドメイン適応を可能にするか？

主な発見

• CDCLはOffice-31ベンチマークで最先端の精度を達成し、D→WおよびW→Dの両適応タスクで従来手法を上回った。
• VisDA-2017では、標準的UDA設定下で88.6%のトップ1精度を達成し、既存の最先端手法を上回った。
• アブレーションスタディの結果、双方向のアーキテクチャを用いたクロスドメイン対照的学習が最良の性能を示し、ドメイン内または統合ドメインアプローチを上回った。
• CDCLはハイパーパrameter τ と λ に対して低感度であり、広い範囲の値で安定した性能を示した。
• t-SNE可視化により、CDCLがソースドメインとターゲットドメインの特徴を効果的に整列させ、ドメインシフトを低減し、クラス分離性を向上させたことが確認された。
• 特徴検索の結果、CDCLがトレーニング中に異なるドメインからの同一クラスサンプルを段階的に近づけることが確認され、学習ダイナミクスの妥当性が裏付けられた。