[论文解读] Mapping conditional distributions for domain adaptation under generalized target shift

Matthieu Kirchmeyer, Alain Rakotomamonjy+2 more|arXiv (Cornell University)|Oct 26, 2021

Domain Adaptation and Few-Shot Learning参考文献 36被引用 4

一句话总结

本文提出 OSTAR，一种在广义目标分布偏移（GeTarS）设定下的新型域自适应方法，通过神经网络实现最优传输（OT），将源域表征映射到目标域表征，同时保持判别性结构并实现对目标风险的显式控制。该方法在温和假设下，通过联合学习传输映射、类别比例与分类器，展现出强大的理论保障，并优于当前最先进方法。

ABSTRACT

We consider the problem of unsupervised domain adaptation (UDA) between a source and a target domain under conditional and label shift a.k.a Generalized Target Shift (GeTarS). Unlike simpler UDA settings, few works have addressed this challenging problem. Recent approaches learn domain-invariant representations, yet they have practical limitations and rely on strong assumptions that may not hold in practice. In this paper, we explore a novel and general approach to align pretrained representations, which circumvents existing drawbacks. Instead of constraining representation invariance, it learns an optimal transport map, implemented as a NN, which maps source representations onto target ones. Our approach is flexible and scalable, it preserves the problem's structure and it has strong theoretical guarantees under mild assumptions. In particular, our solution is unique, matches conditional distributions across domains, recovers target proportions and explicitly controls the target generalization risk. Through an exhaustive comparison on several datasets, we challenge the state-of-the-art in GeTarS.

研究动机与目标

• 解决广义目标分布偏移（GeTarS）下的无监督域自适应挑战，其中源域与目标域的类别先验和条件分布均发生偏移。
• 克服现有域不变表示学习方法的局限性，如对抗训练的不稳定性与判别能力的丧失。
• 通过避免强制表示不变性，保持原始问题的结构完整性。
• 为条件分布对齐、目标类别比例恢复以及泛化风险的显式控制提供强有力的理论保障。
• 开发一种可扩展、灵活且稳定的算法，适用于多样化领域，包括非视觉任务。

提出的方法

• 提出 OSTAR，一种通过神经最优传输（OT）映射在源域与目标域条件分布之间实现表示对齐的方法，且不强制要求域不变性。
• 采用基于共享神经网络的 OT 映射，实现为带批量归一化和 ReLU 激活函数的前馈网络，将源特征映射至目标特征。
• 通过使用混淆矩阵估计器求解凸优化问题来估计目标类别比例，从而在训练目标中实现样本重加权。
• 联合优化三个组件：OT 映射、类别比例估计与基于重加权损失在源标签上训练的分类器。
• 利用基于 Wasserstein 的泛化界，在优化过程中显式控制目标风险。
• 采用两阶段训练流程：首先最小化 OT 与分类的联合目标，随后通过广义目标进一步优化以提升对齐效果。

实验结果

研究问题

• RQ1 在 GeTarS 下，神经最优传输映射是否能在不强制域不变表示的前提下，有效对齐源域与目标域的条件分布？
• RQ2 与域不变方法相比，OSTAR 是否能更好地保持目标表示的判别性结构？
• RQ3 OSTAR 是否能准确恢复目标类别比例，并利用其改善泛化风险控制？
• RQ4 在具有不同标签偏移的多样化数据集上，OSTAR 在准确率与鲁棒性方面相较于最先进方法表现如何？
• RQ5 在温和假设下，OSTAR 提供了哪些理论保障，特别是关于唯一性与分布匹配方面？

主要发现

• 在 Digits、VisDA-12、Office-31 和 Office-Home 数据集上，OSTAR 在 GeTarS 设定下达到最先进性能，优于 IW-WD、MARSc 和 MARSg 等方法。
• 在 VisDA-12 上，OSTAR 实现 86.7% 的 top-1 准确率，超过此前最先进方法的 85.2%。
• 在 Office-31 上，面对高类别不平衡情况，OSTAR 相较最佳基线方法准确率提升 4.3 个百分点。
• 消融实验表明，当类别比例被准确估计时，性能显著提升，证实 OSTAR 能高精度恢复目标类别比例。
• 理论分析表明，OSTAR 的解具有唯一性，最优解下源与目标条件分布完全匹配，并提供基于 Wasserstein 的目标风险上界。
• OSTAR 收敛速度快于基线方法，在 Digits 上仅需 50 个周期，在更大数据集上仅需 100 个周期，且由于神经 OT 映射的归纳偏差，训练过程稳定。