[論文レビュー] Curriculum Manager for Source Selection in Multi-Source Domain Adaptation

Luyu Yang, Yogesh Balaji+2 more|arXiv (Cornell University)|Jul 2, 2020

Domain Adaptation and Few-Shot Learning参考文献 44被引用数 8

ひとこと要約

本稿では、マルチソース非教師付きドメイン適応（MS-UDA）のための敵対的カリキュラム学習フレームワーク、Source Selection用のカリキュラムマネージャー（CMSS）を提案する。CMSSは、ターゲットドメインへの転送可能性に基づいて、動的にソースサンプルを選択する。ドメイン識別器の誤差を最大化するように別個のカリキュラムマネージャーを訓練することで、時間経過に伴いソースサンプルの重みを適応的に調整し、ドメインラベルや事前のクラスタリングを必要とせずに、4つのベンチマーク（DomainNetを含む）で最先端の性能を達成する。

ABSTRACT

The performance of Multi-Source Unsupervised Domain Adaptation depends significantly on the effectiveness of transfer from labeled source domain samples. In this paper, we proposed an adversarial agent that learns a dynamic curriculum for source samples, called Curriculum Manager for Source Selection (CMSS). The Curriculum Manager, an independent network module, constantly updates the curriculum during training, and iteratively learns which domains or samples are best suited for aligning to the target. The intuition behind this is to force the Curriculum Manager to constantly re-measure the transferability of latent domains over time to adversarially raise the error rate of the domain discriminator. CMSS does not require any knowledge of the domain labels, yet it outperforms other methods on four well-known benchmarks by significant margins. We also provide interpretable results that shed light on the proposed method.

研究の動機と目的

• 複数のラベル付きソースドメインを用いてラベルなしのターゲットドメインに適応するマルチソース非教師付きドメイン適応（MS-UDA）において、負の転送や最適でないアライメントの課題に対処すること。
• ドメインラベルや事前のドメインパーティションに依存せずに、訓練中に最も転送可能性の高いソースサンプルを動的に選択する手法を開発すること。
• 時間経過とともにターゲット分布と最も整合性の高いソースサンプルを自動で特定・優先することで、MS-UDAにおけるカリキュラム学習を可能にすること。
• ソースドメインが制限なく多数存在する現実世界のシナリオにおいて、一般化性能とロバストネスを向上させること。

提案手法

• CMSSは、ドメイン識別器の誤差を最大化するように敵対的に訓練される独立したニューラルネットワークモジュール、カリキュラムマネージャーを導入し、特徴ネットワークがドメイン不変表現を学習するのを促進する。
• カリキュラムマネージャーは、ソースデータのサンプルごとの重みを生成し、訓練中にドメイン敵対的損失を再重み付けする。これにより、勾配フローが高転送可能性のサンプルを優先するよう制御される。
• 勾配反転を用いて、識別器から特徴ネットワークへカリキュラム学習信号をバックプロパゲートし、ドメイン監視なしでエンドツーエンドの訓練を可能にする。
• カリキュラムマネージャーは時間経過とともに継続的に転送可能性を再測定し、訓練の進行に応じて新たな関連性の高いソースサンプルに焦点をシフトできる。
• ドメインラベルやクラスタリング、ソースドメイン数の事前知識を必要としないため、オープンセットの現実世界のデータ収集に適している。
• 標準的なDANNアーキテクチャに統合され、固定ドメイン損失の代わりにCMSS出力で制御される重み付きドメイン損失が採用される。

実験結果

リサーチクエスチョン

• RQ1 ドメインラベルにアクセスできない状況下で、マルチソースドメイン適応における動的カリキュラム学習によるソースサンプル選択をどのように学習できるか？
• RQ2 カリキュラムマネージャーとドメイン識別器の敵対的訓練が、MS-UDAにおける転送可能性とモデル一般化性能の向上に有効に機能するか？
• RQ3 訓練の進行に伴いカリキュラムはどのように変化するか？また、ソースドメイン間の転送可能性に意味のあるパターンを反映しているか？
• RQ4 固定または手動でパーティショニングされたソースドメイン重み付けを用いる従来手法に比べ、CMSSはどの程度優れているか？
• RQ5 異なるターゲットドメインにおいて、ソースサンプルの選択に影響を与える要因は、構造的類似性、色、背景のいずれかであるか？

主な発見

• CMSSは、約60万枚の画像を含む大規模なDomainNetデータセットを含む4つの有名なベンチマークで最先端の性能を達成した。
• DANN や MDAN といった強力なベースラインに比べ、特にドメインシフトが大きい困難な設定において顕著に優れた性能を示した。
• カリキュラムマネージャーは視覚的類似性と相関するドメインの好みのパターン（例：ターゲットがスケッチの場合、ペインティングよりクリップアートを好む）を学習し、意味的で解釈可能な選択を示した。
• クイックドロウのような高いドメインシフトを持つドメインでは、明確なドメイン好ましさは示さないが、依然として高い性能を達成しており、ドメイン内でのサンプル選択が効果的であることを示している。
• サンプル単位の可視化では、CMSSが構造的に類似したサンプル（例：丸い時計の形）をクイックドロウで優先し、クリップアートでは色・テクスチャが豊富なサンプルを優先していることが明らかになり、文脈に適応した選択であることが示された。
• 訓練のダイナミクスでは、初期段階でCMSSの重みに高いばらつきが見られ、活発なサンプル選択が行われていることが示され、その後徐々に均一化する傾向が見られ、カリキュラム学習の挙動が確認された。