[論文レビュー] Contrastive Adaptation Network for Unsupervised Domain Adaptation

Guoliang Kang, Lu Jiang+2 more|arXiv (Cornell University)|Jan 4, 2019

Domain Adaptation and Few-Shot Learning参考文献 39被引用数 102

ひとこと要約

CANはクラス認識付きコントラスト不整合(CDD)を用いた無教師なしドメイン適応を導入し、より識別的でクラス内がコンパクト、クラス間が分離可能な特徴を学習することで、Office-31で最先端の結果を、VisDA-2017で競争力のある結果を示します。

ABSTRACT

Unsupervised Domain Adaptation (UDA) makes predictions for the target domain data while manual annotations are only available in the source domain. Previous methods minimize the domain discrepancy neglecting the class information, which may lead to misalignment and poor generalization performance. To address this issue, this paper proposes Contrastive Adaptation Network (CAN) optimizing a new metric which explicitly models the intra-class domain discrepancy and the inter-class domain discrepancy. We design an alternating update strategy for training CAN in an end-to-end manner. Experiments on two real-world benchmarks Office-31 and VisDA-2017 demonstrate that CAN performs favorably against the state-of-the-art methods and produces more discriminative features.

研究の動機と目的

• クラス情報を活用するため、単にドメインアライメントだけに頼らない無監督ドメイン適応を動機づける。
• 新しいContrastive Domain Discrepancy（CDD）を提案し、クラス内のドメイン差を最小化しつつ、クラス間のドメイン差を最大化する。
• エンドツーエンドの訓練フレームワーク（CAN）を開発し、ターゲットラベル推定と特徴適応を交互に行う。
• クラス認識付きアライメントがより識別性の高い特徴とベンチマークデータセットでのより良い一般化を生み出すことを示す。

提案手法

• Contrastive Domain Discrepancy（CDD）を定義して、クラス内およびクラス間のドメイン差を測定する。
• MMDベースの定式化を用いて、クラス内差を最小化し、クラス間差を最大化する。
• CDDを深層ネットワークに埋め込み、β (Eq. 8) を用いたタスク特有のFC層上の損失項として。
• 交互最適化によるCANの訓練：球面K-meansでターゲットラベルをクラスタリングし、その後CDDを用いて特徴を適応させるバックプロパゲーション（Eq. 6, 3.2）。
• クラス認識サンプリング（CAS）を用いて、各クラスに対して複数のドメインを含むミニバッチを確保し、信頼性の高いCDD推定を可能にする。
• クラスタリング中にあいまいなターゲットデータ/クラスを破棄し、徐々により多くのクラスを含める progressive learningを採用する。

実験結果

リサーチクエスチョン

• RQ1 クラス情報をContrastive Domain Discrepancyを通じて組み込むことは、クラス非依存アプローチと比較して無監督ドメイン適応を改善しますか？
• RQ2 CANは標準的なUDAベンチマーク（Office-31、VisDA-2017）で最先端手法と比べて優れた性能を達成できますか？
• RQ3 クラス内のコンパクトさとクラス間の分離性は、ターゲットドメインの識別性と一般化にどのように寄与しますか？
• RQ4 CANの有効性における代替最適化とクラス認識サンプリングの役割は何ですか？

主な発見

• CANはResNet-50（CAN）でOffice-31の平均精度90.6%を達成、クラス内のみでは89.5%、競合手法より高い。
• VisDA-2017（検証セット）でResNet-101を用い、CANは平均精度87.2%を達成、いくつかのベースラインを上回り、テストセットでは単一モデルで87.4%と競争力のある結果。
• クラス認識アライメント（CDD）は純粋なクラス内アライメントより性能を向上させ、クラス間のドメイン差を最大化することが一般化を助けることを示す。
• アブレーション研究は、代替最適化（AO）とクラス認識サンプリング（CAS）の両方が性能向上に寄与することを示し、CANはこれらの要素を欠く variants を上回る。
• 可視化（t-SNE）は、CANがJANよりクラス内のコンパクト性を高め、クラス間マージンを大きくすることを示唆。
• CANはOffice-31で公表済みの最高結果を達成し、VisDA-2017でも非常に競争力があることから、効果的なクラス認識ドメイン適応を示している。