[論文レビュー] Adversarial-Learned Loss for Domain Adaptation

Minghao Chen, Shuai Zhao+2 more|arXiv (Cornell University)|Jan 4, 2020

Domain Adaptation and Few-Shot Learning参考文献 38被引用数 7

ひとこと要約

本稿では、ドメイン対立的学習と自己教師学習を統合する新規手法 Adversarial-Learned Loss for Domain Adaptation (ALDA) を提案する。この手法は、ノイズの多い疑似ラベルを補正するための敵対的に学習された誤り行列を用いる。ALDA は特徴の整合性と識別性を向上させ、4つの標準的な教師なしドメイン適応ベンチマークで最先端の性能を達成する。

ABSTRACT

Recently, remarkable progress has been made in learning transferable representation across domains. Previous works in domain adaptation are majorly based on two techniques: domain-adversarial learning and self-training. However, domain-adversarial learning only aligns feature distributions between domains but does not consider whether the target features are discriminative. On the other hand, self-training utilizes the model predictions to enhance the discrimination of target features, but it is unable to explicitly align domain distributions. In order to combine the strengths of these two methods, we propose a novel method called Adversarial-Learned Loss for Domain Adaptation (ALDA). We first analyze the pseudo-label method, a typical self-training method. Nevertheless, there is a gap between pseudo-labels and the ground truth, which can cause incorrect training. Thus we introduce the confusion matrix, which is learned through an adversarial manner in ALDA, to reduce the gap and align the feature distributions. Finally, a new loss function is auto-constructed from the learned confusion matrix, which serves as the loss for unlabeled target samples. Our ALDA outperforms state-of-the-art approaches in four standard domain adaptation datasets. Our code is available at https://github.com/ZJULearning/ALDA.

研究の動機と目的

• ドメイン対立的学習が、ターゲット特徴の識別性を保証しないという限界を解消すること。
• 教師なしドメイン適応における自己教師学習手法で用いられる疑似ラベルの不安定性とノイズを克服すること。
• 誤り行列を介してドメイン整合性と特徴識別性のギャップを埋め、両者を同時に最適化すること。
• 理論的裏付けを持ち、エンドツーエンドで学習可能な手法を開発し、ターゲットドメインにおけるドメイン整合性と分類器の一般化性能を向上させること。

提案手法

• 自己教師学習における疑似ラベルと真のラベルの乖離をモデル化するための誤り行列を導入する。
• 補正済みラベルを用いてソースドメインとターゲットドメインを区別するディスクライマーを用いて、誤り行列を敵対的プロセスで学習する。
• 学習済みの誤り行列を用いて、ノイズの多い疑似ラベルを補正済みのターゲットラベルに変換し、学習に使用する。
• 補正済みラベルを用いてノイズ補正損失関数を構築し、ドメインディスクライマーと共に最適化する。
• 均一なノイズを含む疑似ラベルに対してロバストであるよう、補正済みターゲット損失に unhinged 損失関数を適用する。
• 特徴エンコーダーと分類器を、ドメイン対立的損失と補正済みターゲット分類損失の両方を最適化する統合目的関数に従ってエンドツーエンドで学習する。

実験結果

リサーチクエスチョン

• RQ1 敵対的に学習された誤り行列は、教師なしドメイン適応における自己教師学習の過程で疑似ラベルのノイズを効果的に低減できるか？
• RQ2 ドメイン対立的特徴整合と補正済み疑似ラベルの監視を組み合わせることで、単独で用いる場合よりも優れた一般化性能が得られるか？
• RQ3 損失関数の選択（例：unhinged と cross-entropy）が、補正済み疑似ラベル化プロセスのロバスト性と性能に与える影響は何か？
• RQ4 正則化項が誤り行列の敵対的学習の安定化に果たす貢献は何か？
• RQ5 提案手法は、ラベルなしのターゲットデータを必要とせずに、多様なドメイン適応ベンチマークで最先端の性能を達成できるか？

主な発見

• ALDA は、Office-31、VisDA-2017、Office-Home、DomainNet の4つの標準的な教師なしドメイン適応データセットで最先端の性能を達成した。
• Office-31 データセットの A→W 設定において、ALDA はトップ1正解率 95.4% を達成し、DANN や Mean Teacher よりも優れた性能を示した。
• アブレーションスタディの結果、ディスクライマー損失における正則化項を除去すると性能が著しく低下し、その訓練安定化への寄与が確認された。
• 補正済みターゲット損失を元の疑似ラベル（すなわち、標準的な自己教師学習）に置き換えると性能が劣化し、誤り行列補正の必要性が示された。
• ターゲット損失関数で cross-entropy の代わりに unhinged 損失を使用すると性能が向上し、疑似ラベルの均一なノイズに対してロバストであることが示された。
• t-SNE 視覚化により、ALDA はソースドメインのクラスタに近い、良好に整合され、識別性の高いターゲット特徴を生成することが確認された。これは、DANN や自己教師学習単体とは対照的である。