[論文レビュー] Understanding Self-Training for Gradual Domain Adaptation

Ananya Kumar, Tengyu Ma+1 more|arXiv (Cornell University)|Feb 26, 2020

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 19

ひとこと要約

本稿では、徐々に変化する分布シフトが生じる設定におけるドメイン適応のための段階的自己学習を提案する。理論的および実験的に、中間のラベルなしデータを活用することで、直接的適応よりも性能が向上することを示している。小さな Wasserstein-infinity シフトの下で非自明な誤差バウンドを証明し、Portraits データセットで84%の精度を達成した（直接的適応より10%高い）。これは、無限のデータがある場合でも正則化とラベル鋭化の重要性を示している。

ABSTRACT

Machine learning systems must adapt to data distributions that evolve over time, in applications ranging from sensor networks and self-driving car perception modules to brain-machine interfaces. We consider gradual domain adaptation, where the goal is to adapt an initial classifier trained on a source domain given only unlabeled data that shifts gradually in distribution towards a target domain. We prove the first non-vacuous upper bound on the error of self-training with gradual shifts, under settings where directly adapting to the target domain can result in unbounded error. The theoretical analysis leads to algorithmic insights, highlighting that regularization and label sharpening are essential even when we have infinite data, and suggesting that self-training works particularly well for shifts with small Wasserstein-infinity distance. Leveraging the gradual shift structure leads to higher accuracies on a rotating MNIST dataset and a realistic Portraits dataset.

研究の動機と目的

• 自動運転車やブレインマシンインターフェースなどの実世界の応用において、機械学習モデルが時間経過とともに性能を低下させる要因となる、ゆっくりとした分布シフトの課題に対処すること。
• 一気にではなく段階的にシフトが生じる状況における自己学習の分析、特にドメイン適応の文脈で。
• 直接的適応が失敗する状況でも、段階的シフト下で自己学習に対して初めて非自明な理論的誤差バウンドを証明すること。
• 実験的に、段階的自己学習が回転させた MNIST および Portraits データセットにおいて、直接的適応およびベースライン手法を上回ることを示すこと。

提案手法

• 本手法は、ソース分類器から出発し、段階的にシフトしたデータ上で自己学習を繰り返すことで、逐次的に更新される分類器の系列を用いる。
• 各ステップで、現在のドメインのラベルなし例に対して仮ラベルが生成され、これらの仮ラベル付き例を用いて正則化付きの教師あり分類器が学習される。
• 特に Wasserstein-infinity 距離が小さいシフトにおいても、頑健性を高めるためにラベル鋭化と L2 正則化を組み込む。
• ラベルなしデータを段階的に処理するために、サイズ W のスライディングウインドウを用い、数ステップごとにモデルを再学習して変化する分布に適応する。
• 信頼度の低い予測をフィルタリングするための信頼度しきい値を導入し、仮ラベルの信頼性を向上させる。
• 理論的分析では、マージンに基づく分布フリー設定とガウス生成モデル設定の2通りを検討し、段階的適応により一般化性能が向上することを示した。

実験結果

リサーチクエスチョン

• RQ1 サポートオーバーラップが最小限の状況において、特に直接的適応が失敗する場合に、自己学習が段階的ドメイン適応において直接的適応よりも優れた性能を達成できるか？
• RQ2 直接的適応が無限大の誤差を引き起こすような状況でも、段階的分布シフト下での自己学習に対してどのような理論的保証を提供できるか？
• RQ3 無限のデータがある場合でも、正則化とラベル鋭化が段階的シフト下での自己学習の性能に与える影響は何か？
• RQ4 高次元空間において、小さな段階的シフトの構造が、大きな一括シフトよりも優れた一般化を可能にするか？
• RQ5 ウィンドウサイズや信頼度しきい値といったハイパーパrameterの選択に、段階的自己学習の性能がどれほど頑健であるか？

主な発見

• Portraits データセットでは、段階的自己学習が84%の精度を達成した。これは、直接的ターゲット適応（77%）およびすべてのラベルなしデータを用いた自己学習（77%）を顕著に上回った。
• 回転させた MNIST では、段階的自己学習が80.3%の精度を達成したが、直接的ターゲット自己学習では31.1%、すべてのデータを用いた自己学習では32.6%にとどまった。
• 段階的自己学習の理論的誤差バウンドは、初期誤差 α₀ が小さい場合に非自明であり、ステップ数 T に対して指数関数的依存を示すが、依然としてタイトで情報的である。
• アブレーションスタディにより、ウィンドウサイズや信頼度しきい値といったハイパーパrameterの選択に対しても、段階的自己学習が頑健であることが確認され、変化に対しても性能向上が持続した。
• 20,000個の中間ラベルなし例がある状況でも、段階的自己学習は Portraits で60.6%の精度を達成し、直接的適応（56.5%）および全データ自己学習（57.4%）を上回ったが、極端なシフトでは依然として性能が劣った。
• 本研究では、正則化とラベル鋭化が、無限データの極限においても性能に不可欠であることが明らかになった。これは、分布シフト下での自己学習の安定化にこれらの手法が果たす役割を強調している。