[論文レビュー] Your Classifier can Secretly Suffice Multi-Source Domain Adaptation

Naveen Venkat, Jogendra Nath Kundu+3 more|ePrints@IISc (Indian Institute of Science)|Mar 20, 2021

Domain Adaptation and Few-Shot Learning被引用数 21

ひとこと要約

本稿では、自己教師付き暗黙的アライメント（SImpAl）を提案する。これは、補助損失を用いずに、疑似ラベル付きのターゲットサンプルにおける分類器の合意を活用することで、ドメイン間で特徴を暗黙的にアライメントする、シンプルでありながら効果的なマルチソース・ドメイン適応（MSDA）手法である。分類器の合意を学習信号および収束の兆候として用いることで、5つのベンチマークで最先端の性能を達成し、カテゴリシフト下でも頑健であることが示された。

ABSTRACT

Multi-Source Domain Adaptation (MSDA) deals with the transfer of task knowledge from multiple labeled source domains to an unlabeled target domain, under a domain-shift. Existing methods aim to minimize this domain-shift using auxiliary distribution alignment objectives. In this work, we present a different perspective to MSDA wherein deep models are observed to implicitly align the domains under label supervision. Thus, we aim to utilize implicit alignment without additional training objectives to perform adaptation. To this end, we use pseudo-labeled target samples and enforce a classifier agreement on the pseudo-labels, a process called Self-supervised Implicit Alignment (SImpAl). We find that SImpAl readily works even under category-shift among the source domains. Further, we propose classifier agreement as a cue to determine the training convergence, resulting in a simple training algorithm. We provide a thorough evaluation of our approach on five benchmarks, along with detailed insights into each component of our approach.

研究の動機と目的

• 明示的な特徴アライメント損失に依存せずに、マルチソース・ドメイン適応（MSDA）におけるドメインシフトの課題に対処すること。
• ラベル監視のもとで、ドメインシフトやカテゴリシフトが存在する状況下でも、深層分類器が本質的に暗黙のドメインアライメントを誘発するかどうかを調査すること。
• 分類器の合意に基づくトレーニング収束基準を構築し、最適化効率を向上させること。
• 分類器の合意による暗黙的アライメントが、敵対的学習や複雑なアライメント部品を必要とする手法を上回ることを示すこと。

提案手法

• 本手法は共有の特徴抽出器とソース固有の分類器を用い、ラベル付きソースドメインと疑似ラベル付きターゲットサンプルで学習を行う。
• 同じ入力に対して複数の分類器の間で不一致損失を最小化することで、ソースおよびターゲットサンプルの両方で分類器の合意を強制する。
• 無ラベルのターゲットデータに対するモデル自身の予測から生成された疑似ラベルが、暗黙的アライメントの根幹をなす。
• ターゲットサンプルを易しいうちから難しいうちへ順序付けた自信重み付きカリキュラムが、$ w(\mathbf{x}_t, f, h) $ を用いて構築され、段階的な学習が可能になる。
• 収束指標として、ターゲットの合意率 $ A(\mathcal{D}_t, f, h) $ が用いられ、増加する合意率は安定したトレーニングを示す。
• ドメイン識別器や細分化されたアライメントモジュールなどの追加部品は使用せず、ラベル監視と分類器の一貫性にのみ依存する。

実験結果

リサーチクエスチョン

• RQ1 ラベル監視のもとで、明示的なドメインアライメント目的がなくても、深層モデルにおいて暗黙の特徴アライメントが自然に生じるのか？
• RQ2 疑似ラベル付きターゲットサンプルにおける分類器の合意は、複数のソースドメインとターゲットドメイン間で、潜在的特徴をどれほど効果的にアライメントするのか？
• RQ3 分類器の合意は、MSDAにおけるトレーニング収束のモニタリングに信頼できる信号として機能するのか？
• RQ4 クラス分布が異なるソースドメインの下でも、提案手法はカテゴリシフトに耐性を示すのか？
• RQ5 敵対的学習や補助損失を必要とする複雑な手法を上回る、シンプルで自己教師付きのアプローチが可能なのか？

主な発見

• SImpAlは、敵対的学習や補助アライメント損失を用いずに、5つの標準的MSDAベンチマークで最先端の性能を達成した。
• 本手法はカテゴリシフト下でも頑健であり、細分化されたアライメントモジュールを必要とせず、ソースドメイン間の共有クラスを効果的にアライメントした。
• トレーニング中にターゲットの疑似ラベルにおける分類器の合意が増加し、合意率が安定したトレーニングを示す信頼性の高い収束指標となった。
• 分類器の合意領域における正しく予測された疑似ラベルの割合が著しく増加し、効果的な自己教師付き学習が実現した。
• 自信重み付きカリキュラム $ w(\mathbf{x}_t, f, h) $ は、易しいうちから難しいうちへの進行を示し、高い信頼度の予測は疑似ラベルにおいても高い正確性を示した。
• 実証的分析から、信頼度しきい値の使用は性能を向上させるが、ハイパーパrameterに敏感であることが判明したため、簡潔さと一般化性を考慮し、主な結果では省略された。