[論文レビュー] Joint Contrastive Learning for Unsupervised Domain Adaptation

Changhwa Park, Jonghyun Lee+3 more|arXiv (Cornell University)|Jun 18, 2020

Domain Adaptation and Few-Shot Learning参考文献 53被引用数 22

ひとこと要約

本稿では、対照的学習を通じて特徴量とラベル間の相互情報量を最大化することで、結合仮説誤差を明示的に最小化する、新しい教師なしドメイン適応手法である共同対照的学習（JCL）を提案する。ソースラベル付きデータとターゲットラベルなしデータを同時に最適化することで、特徴量の識別性が向上し、VisDA-2017で最先端性能を達成しており、特に困難なクラスでは前人最高手法を最大6.9%上回った。

ABSTRACT

Enhancing feature transferability by matching marginal distributions has led to improvements in domain adaptation, although this is at the expense of feature discrimination. In particular, the ideal joint hypothesis error in the target error upper bound, which was previously considered to be minute, has been found to be significant, impairing its theoretical guarantee. In this paper, we propose an alternative upper bound on the target error that explicitly considers the joint error to render it more manageable. With the theoretical analysis, we suggest a joint optimization framework that combines the source and target domains. Further, we introduce Joint Contrastive Learning (JCL) to find class-level discriminative features, which is essential for minimizing the joint error. With a solid theoretical framework, JCL employs contrastive loss to maximize the mutual information between a feature and its label, which is equivalent to maximizing the Jensen-Shannon divergence between conditional distributions. Experiments on two real-world datasets demonstrate that JCL outperforms the state-of-the-art methods.

研究の動機と目的

• ドメイン適応におけるターゲット誤差上界において軽視されがちな結合仮説誤差の役割を解消し、理論的保証を強化すること。
• 周辺分布整合化を超えて、クラスレベルの分離性を損なわず特徴量の識別性を向上させること。
• ラベル付きソースデータとラベルなしターゲットデータを統合的に最適化することで、結合誤差を最小化する共同最適化フレームワークを構築すること。
• 特徴量とラベル間の相互情報量を最大化することが、クラスごとの識別的パワーを向上させる根拠を理論的に裏付けること。
• 情報理論に基づく対照的学習目的関数を用いて、教師なしドメイン適応で最先端の性能を達成すること。

提案手法

• 結合仮説誤差を明示的に組み込んだターゲット誤差の新しい上界を提案し、この項を直接最適化可能にする。
• ソースラベル付きデータとターゲットラベルなしデータの両方の表現を同時に最適化する対照的学習フレームワーク「JCL」を導入する。
• InfoNCE対照的損失を用いて、学習された特徴量と真のラベル間の相互情報量を最大化し、これはクラス条件付き分布間のジェンセン・ショーンラー距離を最大化することに等しい。
• 両ドメインの特徴量がラベルの一貫性に基づいて整列する共同埋め込み空間を採用し、識別性能を向上させる。
• 他の目的関数と対照的損失をバランスさせるハイパーパrameter γ を導入し、実験により γ の変動に対して頑健であることを示した。
• t-SNE可視化を用いて、DANNなどのベースライン手法と比較して、JCLがより分離され、クラスに特化した特徴量を生成することを確認した。

実験結果

リサーチクエスチョン

• RQ1 結合仮説誤差は、ドメイン適応におけるターゲット誤差の理論的上界にどのように影響を与えるか？
• RQ2 特徴量とラベル間の相互情報量を最大化することは、周辺分布整合化を上回る特徴量の識別性をもたらすか？
• RQ3 ソースおよびターゲットドメインの共同最適化は、教師なしドメイン適応における一般化性能を向上させるか？
• RQ4 本手法は、実世界のベンチマークにおいて、最先端手法と比較して精度と頑健性の面でどのように差をつけるか？
• RQ5 実際の状況では、対照的学習目的関数が理想の結合仮説誤差をどの程度低減できるか？

主な発見

• JCLはResNet-101を用いてVisDA-2017ベンチマークで平均87.6%の精度を達成し、以前の最先端手法CANを0.4%上回った。
• 特に困難なクラス「truck」では、CANから6.9ポイントの精度向上（59.9%から66.8%）を達成した。
• JCLが学習した表現量に対する線形分類器誤差は、DANNが学習した特徴量よりも顕著に低く、結合仮説誤差が低減していることを示している。
• アブレーションスタディにより、JCLはハイパーパrameter γ に対して頑健であり、広い範囲の値で安定した性能を示した。
• t-SNE可視化により、JCLがDANNよりもターゲットドメインでより識別的で、良好に分離された特徴量を生成することが確認された。
• 本手法はエントロピーと条件付きエントロピーのバランスを適切にとることに成功し、表現学習における退化解を回避した。