[论文解读] Rethinking Distributional Matching Based Domain Adaptation

Bo Li, Yezhen Wang+7 more|arXiv (Cornell University)|Jun 23, 2020

Domain Adaptation and Few-Shot Learning参考文献 54被引用 35

一句话总结

本论文分析在现实域转移（RDS）下，分布匹配（DM）在领域自适应中的局限性，并提出 InstaPBM—a 实例基预测行为匹配方法，以在传统基准和 RDS 基准上实现稳健的无监督领域自适应。

ABSTRACT

Domain adaptation (DA) is a technique that transfers predictive models trained on a labeled source domain to an unlabeled target domain, with the core difficulty of resolving distributional shift between domains. Currently, most popular DA algorithms are based on distributional matching (DM). However in practice, realistic domain shifts (RDS) may violate their basic assumptions and as a result these methods will fail. In this paper, in order to devise robust DA algorithms, we first systematically analyze the limitations of DM based methods, and then build new benchmarks with more realistic domain shifts to evaluate the well-accepted DM methods. We further propose InstaPBM, a novel Instance-based Predictive Behavior Matching method for robust DA. Extensive experiments on both conventional and RDS benchmarks demonstrate both the limitations of DM methods and the efficacy of InstaPBM: Compared with the best baselines, InstaPBM improves the classification accuracy respectively by $4.5\%$, $3.9\%$ on Digits5, VisDA2017, and $2.2\%$, $2.9\%$, $3.6\%$ on DomainNet-LDS, DomainNet-ILDS, ID-TwO. We hope our intuitive yet effective method will serve as a useful new direction and increase the robustness of DA in real scenarios. Code will be available at anonymous link: https://github.com/pikachusocute/InstaPBM-RobustDA.

研究动机与目标

• 在现实域转移（RDS）下，检视分布匹配（DM）方法的局限性。
• 创建能够反映现实世界域转移的基准（LDS、ILDS、TwO）。
• 提出一种不依赖 DM 假设的稳健域自适应方法。
• 引入 InstaPBM 以在源域与目标域之间对齐预测行为。

提出的方法

• 批判性分析基于 DM 的无监督域自适应，并在 LDS、ILDS 与 TwO 下识别失败模式。
• 引入 RDS 基准：LDS、ILDS、TwO 以进行严格评估。
• 提出 InstaPBM，由三部分组成：Mutual Information Predictive Behavior Matching (MIM)、Contrastive Predictive Behavior Matching、Mix-up Predictive Behavior Matching，以及自监督和混合任务。
• 将预测行为定义为 pθ(y|x) 在跨域下应保持的性质，并且不依赖分布对齐。
• 开发训练目标：L_M 表示互信息最大化，L_C 表示对比 PB 匹配，L_U 表示混合 PBM，以及 L_S 表示自监督任务导向 PBM。
• 提供一个包含相应权重的综合优化（Eq. 7），将各组成部分结合起来。

实验结果

研究问题

• RQ1 基于 DM 的域自适应方法在现实域转移下能否保证目标标签的正确性？
• RQ2 新的 RDS 基准是否揭示 DM 方法的系统性局限？
• RQ3 跨域匹配分类器的预测行为是否能够实现稳健的无监督域自适应？
• RQ4 InstaPBM 的效果如何？哪些组成部分对性能和鲁棒性贡献最大？

主要发现

• InstaPBM 在传统基准（Digits5、VisDA2017）和 RDS 基准上持续超越最先进的 DM 基线。
• 在 Digits5 上，InstaPBM 比最佳基线的准确率提高 4.5 个百分点；在 VisDA2017 上，提升 3.9 个点。
• 在 DomainNet-LDS、DomainNet-ILDS 和 ID-TwO 上，InstaPBM 比基线提升 2.2–3.6 点。
• InstaPBM 对现实域转移显示出比 DM 方法更强的鲁棒性，涵盖 LDS、ILDS 和 TwO 基准。
• 消融实验显示 Mutual Information PB Matching (MIM) 提供了最大的单组件增益，其次是 CPBM_ALL。