[論文レビュー] Gradient Regularized Contrastive Learning for Continual Domain Adaptation

Shixiang Tang, Peng Su+2 more|arXiv (Cornell University)|Mar 23, 2021

Domain Adaptation and Few-Shot Learning参考文献 67被引用数 9

ひとこと要約

本稿では、継続的ドメイン適応（cDA）のための勾配正則化対照学習（GRCL）を提案する。GRCLは勾配正則化を用いて、元のドメインの判別的特徴を保持し、古いターゲットドメインの忘却を防ぐ。ソースドメインおよび古いターゲット分類損失との正の勾配相関を強制することで、GRCLは新しいドメインへの適応を向上させつつ、過去のドメインでのパフォーマンスを維持し、3つのベンチマークでベースラインを5%以上上回る精度向上を達成する。

ABSTRACT

Human beings can quickly adapt to environmental changes by leveraging learning experience. However, adapting deep neural networks to dynamic environments by machine learning algorithms remains a challenge. To better understand this issue, we study the problem of continual domain adaptation, where the model is presented with a labelled source domain and a sequence of unlabelled target domains. The obstacles in this problem are both domain shift and catastrophic forgetting. We propose Gradient Regularized Contrastive Learning (GRCL) to solve the obstacles. At the core of our method, gradient regularization plays two key roles: (1) enforcing the gradient not to harm the discriminative ability of source features which can, in turn, benefit the adaptation ability of the model to target domains; (2) constraining the gradient not to increase the classification loss on old target domains, which enables the model to preserve the performance on old target domains when adapting to an in-coming target domain. Experiments on Digits, DomainNet and Office-Caltech benchmarks demonstrate the strong performance of our approach when compared to the other state-of-the-art methods.

研究の動機と目的

• 継続的ドメイン適応（cDA）におけるドメインシフトと深刻な忘却の二重の課題に取り組むこと。
• 新しいターゲットドメインへの適応を向上させるために、ソースドメイン特徴の判別能力を維持すること。
• 段階的な適応中に、以前に見たターゲットドメインでのパフォーマンス劣化を明示的に防止すること。
• 順次的なドメインシフトにおいて、精度と安定性の両面で既存手法を上回る手法を開発すること。

提案手法

• GRCLは対照学習を用いて、ソースドメインとターゲットドメイン間でドメイン不変の表現を学習する。
• ソースの判別性制約により、勾配がソースドメインの分類損失を損なわないように保証し、特徴の判別性を維持する。
• ターゲット記憶制約により、勾配が古いターゲットドメインの分類損失を増加させないよう強制し、深刻な忘却を緩和する。
• 信頼度のしきい値を用いてフィルタリングされたクラスタリングを用いて、古いターゲットドメインの疑似ラベルを生成し、高品質な監督信号を確保する。
• 対照損失と、パrameter更新がソースドメインおよび過去のターゲットドメインでのパフォーマンスを維持するのを制約する2つの勾配正則化項を組み合わせる。
• メモリバンクを用いて、以前のドメインからの特徴を保存し、対照学習を支援するエンドツーエンドの訓練手法を採用する。

実験結果

リサーチクエスチョン

• RQ1 継続的適応中に、新しいターゲットドメインへ適応する際、どのようにしてソースドメイン特徴の判別能力を維持できるか？
• RQ2 順次的なターゲットドメインへの適応において、どのようにして深刻な忘却を効果的に防止できるか？
• RQ3 マルチタスク学習を上回る性能を発揮するには、勾配正則化がソースドメインおよび過去に見たターゲットドメインの両方でパフォーマンスを維持するのに有効であるか？
• RQ4 メモリを用いた対照学習は、継続的ドメイン適応における一般化性能をどの程度向上させるか？
• RQ5 提案された制約は、順次的なドメイン適応における精度とバックワード転送にどのように影響を与えるか？

主な発見

• GRCLは、Digits、DomainNet、Office-Caltechベンチマークで、最も強力なベースラインを5%以上上回る精度向上を達成する。
• ソースの判別性制約により、新しいターゲットドメインへの適応が約2.2%向上し、バックワード転送への影響は最小限に抑えられる。
• ターゲット記憶制約により、バックワード転送が約6%向上し、深刻な忘却の効果的緩和が確認された。
• GRCLは、マルチタスク学習ベースラインと比較して、BWT（backward transfer）で約4%の向上を達成し、知識保持における勾配正則化の有効性を裏付けた。
• メモリサイズとトレーニングエポック数を増やすことで、性能が一貫して向上し、対照学習部のスケーラビリティが確認された。