[论文解读] Progressive Domain Expansion Network for Single Domain Generalization

Lei Li, Ke Gao+7 more|arXiv (Cornell University)|Mar 30, 2021

Domain Adaptation and Few-Shot Learning参考文献 46被引用 13

一句话总结

本文提出了一种名为渐进式域扩展网络（Progressive Domain Expansion Network, PDEN）的新框架，用于单域泛化任务。该框架通过联合训练一个任务模型和一个域生成器，逐步合成安全、多样化的未见域。通过在扩展域上应用对比学习，PDEN提升了域不变表示学习能力，在分类和分割基准测试中，准确率最高较当前最先进方法提升15.28%。

ABSTRACT

Single domain generalization is a challenging case of model generalization, where the models are trained on a single domain and tested on other unseen domains. A promising solution is to learn cross-domain invariant representations by expanding the coverage of the training domain. These methods have limited generalization performance gains in practical applications due to the lack of appropriate safety and effectiveness constraints. In this paper, we propose a novel learning framework called progressive domain expansion network (PDEN) for single domain generalization. The domain expansion subnetwork and representation learning subnetwork in PDEN mutually benefit from each other by joint learning. For the domain expansion subnetwork, multiple domains are progressively generated in order to simulate various photometric and geometric transforms in unseen domains. A series of strategies are introduced to guarantee the safety and effectiveness of the expanded domains. For the domain invariant representation learning subnetwork, contrastive learning is introduced to learn the domain invariant representation in which each class is well clustered so that a better decision boundary can be learned to improve it's generalization. Extensive experiments on classification and segmentation have shown that PDEN can achieve up to 15.28% improvement compared with the state-of-the-art single-domain generalization methods.

研究动机与目标

• 解决单域泛化中的挑战：在单一域上训练的模型在未见域上因分布偏移而失效的问题。
• 克服现有基于数据增强的方法在合成域生成过程中缺乏安全性和有效性约束的局限性。
• 构建一种联合学习框架，使域扩展与表示学习相互促进。
• 通过逐步生成多样化、在光照和几何上发生变换的域，模拟未见的分布偏移，提升模型鲁棒性。
• 实现在无需目标域数据的情况下实现有效泛化，适用于目标数据不可用的真实世界部署场景。

提出的方法

• 提出双流框架：一个域扩展子网络与一个域不变表示学习子网络，通过联合优化进行训练。
• 利用由任务模型在分类困难样本时的困难程度引导的生成器网络，逐步生成多个合成域。
• 在域生成过程中引入安全性和有效性约束，确保合成域保留语义内容并避免分布坍塌。
• 在源域与扩展域之间应用对比学习，促进类间聚类并改善决策边界。
• 采用多阶段训练策略：在更新后的源域上交替微调任务模型，并重新训练生成器以生成更具挑战性、更多样化的域。
• 支持灵活替换生成器网络，以适应多种域偏移类型（如天气、光照、风格变化等）。

实验结果

研究问题

• RQ1 在无目标域数据访问的情况下，渐进式域扩展能否提升单域泛化中模型的泛化能力？
• RQ2 如何安全有效地生成合成域，以避免分布偏移退化？
• RQ3 在扩展域上应用对比学习在多大程度上能增强域不变表示学习？
• RQ4 域扩展与表示学习的联合学习在应对多样化域偏移时，如何提升模型鲁棒性？
• RQ5 所提出方法在仅需少量目标数据的少样本域自适应设置下是否具备泛化能力？

主要发现

• 在基准数据集上，PDEN相较当前最先进单域泛化方法，分类准确率最高提升15.28个百分点。
• 在Digits数据集上，PDEN优于MADA，且随着扩展域数量（K）的增加，准确率持续提升，表明域生成更具安全性和有效性。
• 消融实验表明，增加对抗损失（w_adv）和循环一致性损失（w_cyc）可提升性能，尤其在SVHN和MNIST-M等挑战性域上效果显著。
• 特征空间可视化显示，PDEN学习到分离良好、类内聚类的特征，而基线模型在特征空间中表现出严重的类别混叠。
• 在少样本域自适应设置中，仅用少量目标样本微调PDEN模型即可获得显著性能提升，优于相同设置下的MADA。
• 该方法在多样化域偏移下泛化良好，尤其在源域为Highway-Dawn或Highway-Fog时提升最大，表明对复杂环境变化具有强鲁棒性。