[論文レビュー] Rethinking Distributional Matching Based Domain Adaptation

Bo Li, Yezhen Wang+7 more|arXiv (Cornell University)|Jun 23, 2020

Domain Adaptation and Few-Shot Learning参考文献 54被引用数 35

ひとこと要約

この論文は現実的なドメインシフト（RDS）の下での分布的整合性（DM）の限界を分析し、インスタンスベースの予測行動マッチング法であるInstaPBMを提案して、従来のベンチマークとRDSベンチマークの両方で堅牢な教師なしドメイン適応を実現します。

ABSTRACT

Domain adaptation (DA) is a technique that transfers predictive models trained on a labeled source domain to an unlabeled target domain, with the core difficulty of resolving distributional shift between domains. Currently, most popular DA algorithms are based on distributional matching (DM). However in practice, realistic domain shifts (RDS) may violate their basic assumptions and as a result these methods will fail. In this paper, in order to devise robust DA algorithms, we first systematically analyze the limitations of DM based methods, and then build new benchmarks with more realistic domain shifts to evaluate the well-accepted DM methods. We further propose InstaPBM, a novel Instance-based Predictive Behavior Matching method for robust DA. Extensive experiments on both conventional and RDS benchmarks demonstrate both the limitations of DM methods and the efficacy of InstaPBM: Compared with the best baselines, InstaPBM improves the classification accuracy respectively by $4.5\%$, $3.9\%$ on Digits5, VisDA2017, and $2.2\%$, $2.9\%$, $3.6\%$ on DomainNet-LDS, DomainNet-ILDS, ID-TwO. We hope our intuitive yet effective method will serve as a useful new direction and increase the robustness of DA in real scenarios. Code will be available at anonymous link: https://github.com/pikachusocute/InstaPBM-RobustDA.

研究の動機と目的

• 現実的なドメインシフト（RDS）下での分布的整合性（DM）手法の限界を検討する。
• 現実世界のドメインシフトを反映するベンチマークを作成する（LDS、ILDS、TwO）。
• DM仮定に依らない堅牢なドメイン適応手法を提案する。
• ソースとターゲットド domains にわたる予測行動を整合させるInstaPBMを導入する。

提案手法

• DMベースのUDAを批判的に分析し、LDS、ILDS、TwOの下での失敗モードを特定する。
• 厳密な評価のためのRDSベンチマークを導入する：LDS、ILDS、TwO。
• InstaPBM は三つの構成要素から成る：Mutual Information Predictive Behavior Matching（MIM）、Contrastive Predictive Behavior Matching、Mix-up Predictive Behavior Matching、加えて自己教師付きおよび混合学習タスク。
• 予測行動を、分布整合に依らずドメイン間で成り立つべきpθ(y|x)の性質として定義する。
• 学習目的を定義する：L_M は相互情報の最大化、L_C はコントラストPBマッチング、L_U は混合PBM、L_S は自己教師付きタスク指向PBM。
• 統合最適化（式7）を、対応する重みとともに各構成要素を組み合わせて提供する。

実験結果

リサーチクエスチョン

• RQ1 DMベースのドメイン適応法は現実的なドメインシフトの下でターゲットラベルの正確性を保証できるか？
• RQ2 新しいRDSベンチマークはDM法の体系的な限界を明らかにするか？
• RQ3 ドメイン間で分類器の予測行動をマッチングさせることで堅牢な教師なしドメイン適応が得られるか？
• RQ4 InstaPBMはどれくらい効果的で、どの構成要素が性能と堅牢性に最も寄与するか？

主な発見

• InstaPBMは従来のベンチマーク（Digits5, VisDA2017）およびRDSベンチマークで最先端のDMベースラインを一貫して上回る。
• Digits5 では InstaPBM が最良のベースラインよりも精度を4.5ポイント改善；Vis2017 では3.9ポイント改善。
• DomainNet-LDS、DomainNet-ILDS、ID-TwO では InstaPBM がベースラインより2.2–3.6ポイント改善。
• InstaPBMは LDS、ILDS、TwO のベンチマーク全体で DM 法より現実的なドメインシフトに対してより強い堅牢性を示す。
• アブレーション実験では、Mutual Information PB Matching（MIM）が最大の単一要素寄与を提供し、その後にCPBM_ALL。