[論文レビュー] Cluster Alignment with a Teacher for Unsupervised Domain Adaptation

Zhijie Deng, Yucen Luo+1 more|arXiv (Cornell University)|Mar 24, 2019

Domain Adaptation and Few-Shot Learning参考文献 49被引用数 21

ひとこと要約

本稿では、教師モデルを用いてターゲットドメインの疑似ラベルを生成することで特徴の判別性を向上させる、教師付きクラスタリング手法であるCluster Alignment with a Teacher（CAT）を提案する。CATは、両ドメインにおけるクラス条件付きクラスタリングを同時に最適化し、対応するクラスタをドメイン間で整合させる。この手法により、より判別性が高くドメイン不変な特徴空間を学習し、標準ベンチマークで最先端の性能を達成する。

ABSTRACT

Deep learning methods have shown promise in unsupervised domain adaptation, which aims to leverage a labeled source domain to learn a classifier for the unlabeled target domain with a different distribution. However, such methods typically learn a domain-invariant representation space to match the marginal distributions of the source and target domains, while ignoring their fine-level structures. In this paper, we propose Cluster Alignment with a Teacher (CAT) for unsupervised domain adaptation, which can effectively incorporate the discriminative clustering structures in both domains for better adaptation. Technically, CAT leverages an implicit ensembling teacher model to reliably discover the class-conditional structure in the feature space for the unlabeled target domain. Then CAT forces the features of both the source and the target domains to form discriminative class-conditional clusters and aligns the corresponding clusters across domains. Empirical results demonstrate that CAT achieves state-of-the-art results in several unsupervised domain adaptation scenarios.

研究の動機と目的

• 特徴空間内の細粒度なクラス条件付き構造を無視する、従来の教師なしドメイン適応手法がマージナル分布のみを整合させることの限界を解消する。
• 線形変換に依存するか、深層ネットワーク学習と互換性のない高コストの近隣探索モデルに依存する、先行のクラスタリングベース手法の欠点を克服する。
• 教師ありドメイン適応のための、深層学習と互換性があり、ソースおよびターゲットドメインの両方における判別的クラスタ構造を効果的に活用するフレームワークを開発する。
• マージナル分布の整合性のみで失敗する、異なるクラス不均衡やモード分布を示す困難な状況においても、より強固な適応を可能にする。

提案手法

• 教師分類器（ソースデータで訓練された学生モデルの暗黙のアンサンブル）を備えた学生用深層ニューラルネットワークを用い、ラベルなしターゲットサンプルに対して信頼性の高い疑似ラベルを生成する。
• 同じクラスの特徴が特徴空間内で密にクラスタリングされ、異なるクラスの特徴が分離されるよう促すクラス条件付きクラスタリング損失を適用する。
• 同じクラスに属するクラスタがソースおよびターゲットドメイン間で一致するようにする、条件付き特徴マッチング損失を導入する。
• ラベル付きソースデータに対する教師付き損失、クラスタリング損失、クラスタ整合損失の組み合わせを用いて、判別的かつ整合された表現を同時に最適化するエンドツーエンドの学習を行う。
• JAN、RevGrad、rRevGradなどのモデルと統合可能なように、従来のマージナル分布整合化手法と互換性を保つ。
• t-SNEを用いて特徴空間を可視化し、K-meansを用いてクラスタリング精度を評価することで、学習された特徴の判別性を検証する。

実験結果

リサーチクエスチョン

• RQ1 ソースおよびターゲットドメインの両方におけるクラス条件付きクラスタ構造を組み込むことで、マージナル分布整合化を上回る教師なしドメイン適応が可能になるか？
• RQ2 ドメインが分布的にシフトしている状況下でも、教師モデルがラベルなしターゲットデータに対して信頼性の高い疑似ラベルを生成できるか？
• RQ3 対応するクラス間でクラスタレベルの整合性を強制することで、標準的なドメイン整合化よりも優れた一般化性能が得られるか？
• RQ4 顕著なドメインシフト、クラス不均衡、またはモードの不整合が生じる状況でも、提案手法が既存の最先端手法を上回る性能を示せるか？

主な発見

• rRevGradと組み合わせた場合、SVHNからMNISTへのベンチマークでCATは87.3%の平均精度という、新たな最先端の結果を達成し、JAN や RevGrad などの先行手法を上回った。
• ResNet-50を用いたOffice-Homeデータセットでは、CATは平均86.3%の精度を達成し、ベースライン手法のJAN（85.8%）やRevGrad（85.0%）を上回った。
• rRevGrad+CATが学習した特徴のt-SNE可視化では、各クラスごとに密で明確に分離されたクラスタが得られており、重なっており構造が不鮮明なRevGradと比較して、優れた判別力が示された。
• 整合化された特徴に対してK-meansを適用した結果、rRevGrad+CATは最も高いクラスタリング精度を達成しており、学習された特徴空間内により意味的で判別性の高いクラスタ構造が存在することが確認された。
• アブレーションスタディの結果、クラス条件付きクラスタリング損失とクラスタ整合損失の両方が性能向上に顕著な貢献をしていることが確認され、教師モデルが疑似ラベルの信頼性を高める上で中心的な役割を果たしている。
• CATは既存のドメイン整合化手法と互換性があり、rRevGrad や JAN との統合によって、複数のデータセットおよびアーキテクチャで一貫した性能向上が得られた。