[论文解读] Pareto Domain Adaptation

Fangrui Lv, Jian Liang+6 more|arXiv (Cornell University)|Dec 8, 2021

Domain Adaptation and Few-Shot Learning被引用 8

一句话总结

本文提出Pareto域适应（ParetoDA），一种基于梯度的优化框架，通过使用模仿目标分类的代理损失和动态偏好机制，动态引导模型训练趋向Pareto最优解。该方法优于线性加权方案和固定偏好方法，在图像分类与语义分割基准上实现了最先进性能，更好地平衡了源分类与域对齐目标。

ABSTRACT

Domain adaptation (DA) attempts to transfer the knowledge from a labeled source domain to an unlabeled target domain that follows different distribution from the source. To achieve this, DA methods include a source classification objective to extract the source knowledge and a domain alignment objective to diminish the domain shift, ensuring knowledge transfer. Typically, former DA methods adopt some weight hyper-parameters to linearly combine the training objectives to form an overall objective. However, the gradient directions of these objectives may conflict with each other due to domain shift. Under such circumstances, the linear optimization scheme might decrease the overall objective value at the expense of damaging one of the training objectives, leading to restricted solutions. In this paper, we rethink the optimization scheme for DA from a gradient-based perspective. We propose a Pareto Domain Adaptation (ParetoDA) approach to control the overall optimization direction, aiming to cooperatively optimize all training objectives. Specifically, to reach a desirable solution on the target domain, we design a surrogate loss mimicking target classification. To improve target-prediction accuracy to support the mimicking, we propose a target-prediction refining mechanism which exploits domain labels via Bayes' theorem. On the other hand, since prior knowledge of weighting schemes for objectives is often unavailable to guide optimization to approach the optimal solution on the target domain, we propose a dynamic preference mechanism to dynamically guide our cooperative optimization by the gradient of the surrogate loss on a held-out unlabeled target dataset. Extensive experiments on image classification and semantic segmentation benchmarks demonstrate the effectiveness of ParetoDA

研究动机与目标

• 为解决线性加权方案在域适应中的局限性，这些方案无法达到非凸Pareto最优解，且对超参数调优敏感。
• 为克服缺乏目标域标签的问题，该问题在训练期间阻止了对目标分类损失的直接优化。
• 开发一种动态优化策略，自适应地引导源分类与域对齐目标之间的权衡，而无需事先知晓最优权重。
• 确保优化过程避免对保留的目标数据过拟合，同时仍能有效引导收敛至理想解。

提出的方法

• 引入一种目标分类模仿（TCM）损失，利用预测与域标签之间的互信息，近似真实的目标分类损失。
• 提出一种基于贝叶斯定理的目标预测优化机制，以提升目标预测质量，从而增强TCM损失作为目标性能代理的效用。
• 采用一种动态偏好机制，利用在保留的无标签目标数据集上TCM损失的梯度，引导优化方向朝向Pareto最优解。
• 采用基于梯度的协同优化方案，确保训练过程中任一目标均不会恶化，从而实现对非凸Pareto前沿解的收敛。
• 使用代理损失与梯度引导，隐式最小化真实目标分类损失，而无需在训练期间使用真实标签。
• 理论分析证实，保留的目标数据可引导优化过程而不引起过拟合，确保泛化能力。

实验结果

研究问题

• RQ1 当因域偏移导致目标冲突时，基于梯度的优化方案是否能优于线性加权方法？
• RQ2 基于目标预测与域标签的代理损失是否能有效引导优化，以最小化真实目标分类损失？
• RQ3 一种根据代理损失梯度自适应调整的动态偏好机制，是否能改善收敛至理想Pareto最优解？
• RQ4 所提方法对目标尺度变化及不同主干网络架构是否具有鲁棒性？
• RQ5 该方法是否能超越线性加权与固定偏好方案，在分类与分割任务上均实现更优性能？

主要发现

• 在Office-31 W→A基准上，ParetoDA使用DANN与ResNet-50实现了90.2%的top-1准确率，优于基线DANN（82.2%）及消融变体。
• 消融研究证实，结合TCM损失与动态偏好学习可获得最佳性能（90.2%），验证了两个组件的必要性。
• 优化路径可视化显示，ParetoDA的轨迹紧密跟随通往目标分类损失最小值的理想路径，而线性方案与固定偏好方法则不然。
• 敏感性分析表明，ParetoDA对目标尺度变化具有鲁棒性，在源损失与域对齐损失的不同尺度因子下均保持一致性能。
• ParetoDA在更深主干网络上也持续提升性能：在ResNet-50上，准确率从67.4%（DANN）提升至76.3%（ParetoDA）；在ResNet-101上，从74.5%提升至77.5%；在ResNet-152上，从76.1%提升至79.0%。
• 理论分析证实，保留的目标数据可引导优化过程而不引起过拟合，确保泛化能力。