[論文レビュー] Online Meta-Learning for Multi-Source and Semi-Supervised Domain Adaptation

Da Li, Timothy M. Hospedales|arXiv (Cornell University)|Apr 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 57被引用数 6

ひとこと要約

本論文は、既存のドメイン適応アルゴリズムの初期モデル重みをメタ最適化することで、マルチソースおよび半教師ありドメイン適応を改善するオンラインメタラーニングフレームワークを提案する。効率的なオンライン最短経路勾配降下法を用いることで、DANN、MCD、MMEのすべてで一貫した性能向上を達成し、計算コストの増加を最小限に抑えながら、DomainNetやその他のベンチマークで新たなSOTA結果を樹立した。

ABSTRACT

Domain adaptation (DA) is the topical problem of adapting models from labelled source datasets so that they perform well on target datasets where only unlabelled or partially labelled data is available. Many methods have been proposed to address this problem through different ways to minimise the domain shift between source and target datasets. In this paper we take an orthogonal perspective and propose a framework to further enhance performance by meta-learning the initial conditions of existing DA algorithms. This is challenging compared to the more widely considered setting of few-shot meta-learning, due to the length of the computation graph involved. Therefore we propose an online shortest-path meta-learning framework that is both computationally tractable and practically effective for improving DA performance. We present variants for both multi-source unsupervised domain adaptation (MSDA), and semi-supervised domain adaptation (SSDA). Importantly, our approach is agnostic to the base adaptation algorithm, and can be applied to improve many techniques. Experimentally, we demonstrate improvements on classic (DANN) and recent (MCD and MME) techniques for MSDA and SSDA, and ultimately achieve state of the art results on several DA benchmarks including the largest scale DomainNet.

研究の動機と目的

• 深層学習におけるドメインシフトの課題に、メタラーニングを用いて既存のドメイン適応アルゴリズムを改善すること。
• 完全な内側ループ最適化が計算不能である問題を克服する、計算的に実行可能なドメイン適応用メタラーニング手法を開発すること。
• 勾配ベースのドメイン適応手法に対するアルゴリズムに依存しない改善を、メタラーニングで得た初期条件によって実現すること。
• 教師なしおよび半教師ありドメイン適応の設定にメタラーニングを拡張すること。この場合、メタ目的関数の監督にターゲットラベルが利用できない。
• DomainNetのような大規模ベンチマークにおいて、複数の最先端ドメイン適応アルゴリズムにわたる一貫した性能向上を実証すること。

提案手法

• 完全な内側ループ最適化が計算不能であるのを避けるために、メタ更新とドメイン適応更新を交互に実行するオンライン最短経路メタラーニングアルゴリズムを提案する。
• 外側ループでメタ最適化により初期モデル重みを最適化し、メタバリデーションスプリット上で計算されるメタ損失を最小化する二段階最適化フレームワークを採用する。
• オンライン最短経路降下に基づく勾配ベースのメタラーニング更新ルールを適用し、効率的で安定した最適化を実現する。
• データの可用性設定に応じて、マルチソース教師なしドメイン適応（MSDA）および半教師ありドメイン適応（SSDA）用に別々のバージョンを設計する。
• ターゲットデータにラベルが不要な状況を想定し、メタトレイン/メタテストスプリットを用いて、ラベルなしのターゲットドメイン性能をシミュレートする。
• ベースのDAアルゴリズムをブラックボックスとして扱うことで、アルゴリズムに依存しないアプローチを維持し、DANN、MCD、MMEなどへの統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ターゲットデータにラベルが利用できない状況においても、メタラーニングを効果的にドメイン適応性能の向上に応用できるか？
• RQ2 初期モデル重みのメタ最適化は、教師なしおよび半教師あり設定の両方で、下流のドメイン適応性能をどのように向上させるか？
• RQ3 長大な計算グラフを伴うドメイン適応において、オンラインメタラーニングは順次的または正確なメタラーニングよりも効果的か？
• RQ4 多様なドメイン適応手法にわたる一貫した性能向上を実現しつつ、アルゴリズムに依存しないメタラーニングフレームワークを構築できるか？
• RQ5 メタラーニングで得た初期化は、マルチソースおよび半教師ありドメイン適忺において、最適化ダイナミクスと最終的な正解率をどの程度向上させるか？

主な発見

• Meta-MCDおよびMeta-MMEは、DomainNet SSDAベンチマークでSOTAの性能を達成し、ベースのMCDおよびMME手法を上回った。
• PACSデータセットでは、Meta-MMEはすべてのペアワイズ転送設定およびResNet-34とAlexNetの両方のバックボーンで、正解率を向上させた。
• オンラインメタラーニング手法は、後期の訓練段階において特に顕著に、順次メタラーニングベースラインを上回った。これは、適応的で入れ違いの更新に起因する。
• Meta-MCDは標準MCDよりも高いテスト正解率を達成し、特に教師あり損失成分の最小化が明確に改善されており、最適化ダイナミクスの向上を示している。
• Meta-DAの計算コスト増加は最小限であり、DomainNetのResNet-34における1イタレーションあたりの時間は2.96秒（2.49秒）と、わずか19％の増加にとどまった。
• 重み空間の可視化により、Meta-MCDが標準MCDよりも最適な極小値に近い解に収束していることが確認され、メタ最適化初期化の有効性が裏付けられた。