[论文解读] Online Meta-Learning for Multi-Source and Semi-Supervised Domain Adaptation

Da Li, Timothy M. Hospedales|arXiv (Cornell University)|Apr 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 57被引用 6

一句话总结

本文提出了一种在线元学习框架，通过元优化现有领域自适应算法的初始模型权重，提升了多源和半监督领域自适应的性能。通过采用高效的在线最短路径梯度下降方法，该方法在DANN、MCD和MME上均实现了稳定的性能提升，在DomainNet及其他基准测试上取得了新的最先进结果，且计算开销极低。

ABSTRACT

Domain adaptation (DA) is the topical problem of adapting models from labelled source datasets so that they perform well on target datasets where only unlabelled or partially labelled data is available. Many methods have been proposed to address this problem through different ways to minimise the domain shift between source and target datasets. In this paper we take an orthogonal perspective and propose a framework to further enhance performance by meta-learning the initial conditions of existing DA algorithms. This is challenging compared to the more widely considered setting of few-shot meta-learning, due to the length of the computation graph involved. Therefore we propose an online shortest-path meta-learning framework that is both computationally tractable and practically effective for improving DA performance. We present variants for both multi-source unsupervised domain adaptation (MSDA), and semi-supervised domain adaptation (SSDA). Importantly, our approach is agnostic to the base adaptation algorithm, and can be applied to improve many techniques. Experimentally, we demonstrate improvements on classic (DANN) and recent (MCD and MME) techniques for MSDA and SSDA, and ultimately achieve state of the art results on several DA benchmarks including the largest scale DomainNet.

研究动机与目标

• 通过元学习改进现有领域自适应算法，以应对深度学习中的领域偏移问题。
• 开发一种计算上可行的元学习方法用于领域自适应，克服完整内层优化的不可行性。
• 通过元学习的初始条件实现对基于梯度的领域自适应方法的算法无关性改进。
• 将元学习扩展至无监督和半监督领域自适应设置，其中目标标签不可用于元目标监督。
• 在DomainNet等大规模基准测试上，证明对多种最先进领域自适应算法的一致性能提升。

提出的方法

• 提出一种在线最短路径元学习算法，将元更新与领域自适应更新交错进行，避免了完整内层优化的不可行性。
• 采用双层优化框架，外层元优化初始模型权重，以最小化在元验证划分上计算的元损失。
• 应用基于梯度的元学习更新规则，该规则源自在线最短路径下降，实现高效且稳定的优化。
• 为多源无监督领域自适应（MSDA）和半监督领域自适应（SSDA）设计独立变体，以适应不同的数据可用性设置。
• 采用元训练/元测试划分，以在元目标中无需目标数据标签的情况下模拟目标领域性能。
• 通过将基础DA算法视为黑箱，保持算法无关性，支持与DANN、MCD、MME等算法的集成。

实验结果

研究问题

• RQ1 尽管缺乏用于元监督的目标标签，元学习是否仍能有效提升领域自适应性能？
• RQ2 对初始模型权重的元优化如何在无监督和半监督设置下提升下游领域自适应性能？
• RQ3 考虑到涉及的长计算图，与顺序或精确元学习相比，在领域自适应中在线元学习是否更具有效性？
• RQ4 能否在保持对多种领域自适应方法一致性能提升的同时，使元学习框架实现算法无关性？
• RQ5 元学习初始化在多源和半监督领域自适应中，能在多大程度上改善优化动态和最终准确率？

主要发现

• Meta-MCD和Meta-MME在DomainNet的SSDA基准上达到最先进性能，优于基线MCD和MME方法。
• 在PACS数据集上，Meta-MME在所有成对迁移设置下均提升准确率，并适用于ResNet-34和AlexNet两种主干网络。
• 在线元学习方法始终优于顺序元学习基线，尤其在训练后期表现更优，得益于自适应的交错更新。
• Meta-MCD的测试准确率高于标准MCD，且在最小化监督损失分量方面有明显改善，表明优化动态更优。
• Meta-DA的计算开销极低，在DomainNet上ResNet-34的每轮迭代时间仅增加19%（2.96s vs 2.49s）。
• 权重空间可视化结果表明，Meta-MCD收敛至更接近最优极小值的解，验证了元优化初始化的有效性。