[论文解读] Co-regularized Alignment for Unsupervised Domain Adaptation

Abhishek Kumar, Prasanna Sattigeri+5 more|arXiv (Cornell University)|Nov 13, 2018

Domain Adaptation and Few-Shot Learning被引用 118

一句话总结

本论文提出 Co-DA，一种共正则化的领域对齐方法，使用两个多样化的特征空间来对齐源域和目标域的分布，并在它们的目标预测之间强制一致性，以提升无监督领域自适应性能。

ABSTRACT

Deep neural networks, trained with large amount of labeled data, can fail to generalize well when tested with examples from a \emph{target domain} whose distribution differs from the training data distribution, referred as the \emph{source domain}. It can be expensive or even infeasible to obtain required amount of labeled data in all possible domains. Unsupervised domain adaptation sets out to address this problem, aiming to learn a good predictive model for the target domain using labeled examples from the source domain but only unlabeled examples from the target domain. Domain alignment approaches this problem by matching the source and target feature distributions, and has been used as a key component in many state-of-the-art domain adaptation methods. However, matching the marginal feature distributions does not guarantee that the corresponding class conditional distributions will be aligned across the two domains. We propose co-regularized domain alignment for unsupervised domain adaptation, which constructs multiple diverse feature spaces and aligns source and target distributions in each of them individually, while encouraging that alignments agree with each other with regard to the class predictions on the unlabeled target examples. The proposed method is generic and can be used to improve any domain adaptation method which uses domain alignment. We instantiate it in the context of a recent state-of-the-art method and observe that it provides significant performance improvements on several domain adaptation benchmarks.

研究动机与目标

• 动机与解决无监督域自适应中类别条件分布的错配。
• 提出共正则化域对齐，以创建多个多样化的特征空间并在目标预测上强制一致。
• 证明共正则化在标准 DA 基准上提升了最先进结果。
• 在现有领域自适应框架中提供 Co-DA 的实现，以证明性能提升。

提出的方法

• 构造两个多样化的特征生成器 g1 和 g2（及其对应的分类器 h1 和 h2），形成两个预测 f1 = h1∘g1 和 f2 = h2∘g2。
• 对每个视图最小化源预测损失加上域对齐损失：Ly(fi; Ps) + Ld(gi#Ps, gi#Pt)。
• 通过在未标注的目标数据上最小化 f1 和 f2 的 L1 距离来促进目标预测的一致性：Lp(f1,f2; Pt)。
• 通过多样性项 Dg(g1,g2) 促进 g1 与 g2 的多样性，使它们的源小批量均值在上限 ν 内彼此远离。
• 在源和目标上结合条件熵最小化和虚拟对抗训练（VAT）来稳定学习，纳入聚类假设。
• 提供一个使用 Jensen-Shannon 散度进行域对齐、并以 VAT 驱动的正则化来提高鲁棒性的实现。

实验结果

研究问题

• RQ1 跨多个多样化特征空间的共正则化对齐是否能减少无监督域自适应中的错误类别-条件对齐？
• RQ2 强制多目标预测的一致性是否能在目标域准确率上超越单视图域对齐方法？
• RQ3 明确鼓励特征空间之间多样性对对齐质量和预测性能有何影响？
• RQ4 在标准 DA 基准上，Co-DA 相对于最先进方法（如 VADA）的表现如何？
• RQ5 在结合诸如 DIRT-T 的细化步骤时，Co-DA 是否带来额外收益？

主要发现

• Co-DA 在具有挑战性的 MNIST→SVHN 上相对于 VADA 显著提升测试准确率，达到目标域约 81.7%。
• 在 MNIST→SVHN（不使用实例归一化）上，Co-DA 从 47.5%（VADA）提升到 52.0%（Co-DA），在带 BN 的变体下达到 55.3%，使用 DIRT-T 时，若采用实例归一化，可细化至约 88%。
• 对于 SVHN→MNIST 和 MNIST→MNIST-M，Co-DA 相对 VADA 显示出持续的提升，在使用实例归一化时提升更大。
• 具有域对齐多样性的 Co-DA 变体（Co-DA bn）和两分支配置（Co-DA）在若干基准上优于它们的单分支对手。
• 将 Co-DA 与 DIRT-T 结合可以在若干任务上达到最先进的结果，尤其是在不使用数据增强的设置中。