[論文レビュー] ConDA: Continual Unsupervised Domain Adaptation

Abu Md Niamul Taufique, Chowdhury Sadman Jahan+1 more|arXiv (Cornell University)|Mar 19, 2021

Domain Adaptation and Few-Shot Learning参考文献 52被引用数 12

ひとこと要約

本稿では、選択的リプレイバッファとミックスアップ増幅を用いて、ストリーミング形式のターゲットデータバッチに対して段階的にモデルを適応させる、新しいソースフリー継続的非教師ありドメイン適応フレームワークConDAを提案する。ConDAは、全ターゲットドメインへのアクセスに依存する多くの最先端手法を上回り、データ保存要件を著しく削減することで優れた精度を達成する。

ABSTRACT

Domain Adaptation (DA) techniques are important for overcoming the domain shift between the source domain used for training and the target domain where testing takes place. However, current DA methods assume that the entire target domain is available during adaptation, which may not hold in practice. This paper considers a more realistic scenario, where target data become available in smaller batches and adaptation on the entire target domain is not feasible. In our work, we introduce a new, data-constrained DA paradigm where unlabeled target samples are received in batches and adaptation is performed continually. We propose a novel source-free method for continual unsupervised domain adaptation that utilizes a buffer for selective replay of previously seen samples. In our continual DA framework, we selectively mix samples from incoming batches with data stored in a buffer using buffer management strategies and use the combination to incrementally update our model. We evaluate the classification performance of the continual DA approach with state-of-the-art DA methods based on the entire target domain. Our results on three popular DA datasets demonstrate that our method outperforms many existing state-of-the-art DA methods with access to the entire target domain during adaptation.

研究の動機と目的

• 適応段階でターゲットドメインに完全にアクセス可能であると仮定する従来のドメイン適応手法の実用的制限を解消すること。
• ラベルなしターゲットサンプルが時間経過とともに小規模で逐次的に到着する継続的ドメイン適応フレームワークを開発すること。
• トレーニング後、全ターゲットデータやソースデータを保存する必要を排除することで、適応段階におけるデータ保存要件を低減すること。
• 選択的リプレイと適応型損失関数を用いて、データ制限がありストリーミング形式のターゲット環境下でもモデルの汎化性能を向上させること。
• 制限されたデータアクセス条件下での継続的適応が、全ターゲットドメインへのアクセスを前提とする標準的なDA手法を上回ることを実証すること。

提案手法

• ConDAは、予測ラベルが付与された以前に処理されたターゲットサンプルを、選択的に保存・再利用するバッファを採用する。
• 入ってくるターゲットバッチに対して、特徴の汎化を向上させるために、サンプルミックスアップ技術をデータ増幅に用いる。
• 継続的適応におけるクラス表現のバランスと深刻な忘却の軽減を図るために、新規の等価多様性損失を導入する。
• ソースデータを用いない適応戦略を採用し、推論段階でソースデータにアクセスしない。代わりに、到着したターゲットバッチとバッファに保持されたサンプルにのみ依存する。
• バッファ管理戦略は、多様性と代表性に優れたサンプルを優先して保持することで、バッチ間でのモデル性能を維持することを目的とする。
• 交差エントロピー損失、エントロピー最小化損失、および提案された等価多様性損失の組み合わせを用いて、段階的なファインチューニングを実行する。

実験結果

リサーチクエスチョン

• RQ1 継続的ドメイン適応フレームワークは、一度に全ターゲットドメインを用いる標準的なドメイン適応手法を上回ることができるか？
• RQ2 ストリーミングで制限のあるデータ環境下において、以前に見たターゲットサンプルの選択的リプレイがモデル性能に与える影響は何か？
• RQ3 ミックスアップによるデータ増幅は、継続的非教師ありドメイン適応における汎化性能をどの程度向上させ得るか？
• RQ4 バッファサイズとバッチサイズは、継続的ドメイン適応モデルの性能にどのように影響を与えるか？
• RQ5 ソースデータへのアクセスが一切ないソースフリー手法は、全ターゲットドメインへのアクセスを有するSOTA手法と同等またはそれ以上の性能を維持・超過できるか？

主な発見

• Office-31では、継続的バッチサイズ62、バッファサイズ124の条件下で、標準的手法SHOTを1.8%上回った。
• Office-Homeでは、強力なSOTA手法HDMIよりも平均精度で7%以上高い結果を達成し、全ドメインペアで新たなSOTAを樹立した。
• VisDA-Cでは、ベースラインのSHOTを1.5%以上上回る平均クラスごとの精度を達成し、「トラック」クラスという挑戦的なクラスでも最高の性能を記録した。
• アブレーションスタディの結果、ミックスアップ、エントロピー損失、等価多様性損失の組み合わせは、バッファなしのHR-SHOTに比べて性能を1.8%向上させた。
• バッチサイズを64から256に増加させると、ConDAの性能は5.6%向上した。また、バッファサイズを0から1クラスあたり8サンプルに増加させると、精度は0.7%向上した。
• ConDAは、任意の時点でターゲットデータのわずかな一部しかアクセスしないにもかかわらず、Office-31、Office-Home、VisDA-Cの3つのベンチマークデータセットすべてでSOTA性能を達成した。