[论文解读] Out-of-Domain Generalization from a Single Source: An Uncertainty Quantification Approach

Xi Peng, Fengchun Qiao+1 more|arXiv (Cornell University)|Aug 5, 2021

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

本文提出了一种基于元学习的对抗性域增强方法，用于从单一源域实现分布外泛化，通过不确定性量化提升模型的鲁棒性与安全性。通过Wasserstein自编码与元优化生成具有挑战性但语义一致的‘虚构’域，该方法在Digits、CIFAR-10-C和SYTHIA等基准数据集上实现了最先进性能，mIoU显著提升，且在损坏输入上的不确定性降低。

ABSTRACT

We are concerned with a worst-case scenario in model generalization, in the sense that a model aims to perform well on many unseen domains while there is only one single domain available for training. We propose Meta-Learning based Adversarial Domain Augmentation to solve this Out-of-Domain generalization problem. The key idea is to leverage adversarial training to create "fictitious" yet "challenging" populations, from which a model can learn to generalize with theoretical guarantees. To facilitate fast and desirable domain augmentation, we cast the model training in a meta-learning scheme and use a Wasserstein Auto-Encoder to relax the widely used worst-case constraint. We further improve our method by integrating uncertainty quantification for efficient domain generalization. Extensive experiments on multiple benchmark datasets indicate its superior performance in tackling single domain generalization.

研究动机与目标

• 解决仅有一个源域可用于训练时，分布外泛化的关键挑战。
• 克服现有域泛化与域自适应方法对多个域或目标域数据的依赖限制。
• 开发一种可扩展且高效的方案，从单一源域生成多样化、真实且具有挑战性的‘虚构’域。
• 整合不确定性量化以增强关键任务应用中模型的可靠性与安全性。
• 实现在包括分布偏移与图像损坏在内的多样化、未见域中的强泛化能力。

提出的方法

• 提出基于元学习的对抗性域增强（SDG），从单一源域生成多样化、分布外鲁棒的域。
• 利用Wasserstein自编码器（WAE）放松最坏情况约束，实现在保持语义一致性的同时支持大范围域偏移。
• 采用元学习联合优化模型参数与域增强策略，提升训练效率与泛化能力。
• 在训练过程中同时扰动潜在特征与真实标签，以增强域的多样性与鲁棒性。
• 通过预测方差估计整合不确定性量化，以评估并提升模型在未见域中的可靠性。
• 将该方法应用于域泛化与少样本域自适应，验证其可迁移性与灵活性。

实验结果

研究问题

• RQ1 当仅有一个源域可用于训练时，模型能否有效泛化到多个未见域？
• RQ2 如何将对抗性训练适配为从单一源域生成语义一致但多样化的‘虚构’域？
• RQ3 元学习能否提升对抗性域增强的效率与泛化能力？
• RQ4 不确定性量化如何增强分布外泛化中的鲁棒性与安全性？
• RQ5 所提方法能否在包括图像分类与语义分割任务在内的多样化基准上实现最先进性能？

主要发现

• 所提的Uncertain SDG方法在SYTHIA数据集上实现了81.53%的最高平均mIoU，优于ERM、GUD与SDG。
• 在CIFAR-10-C上，Uncertain SDG实现了最低的mCE（13.5%）与RmCE（15.2%），表明对图像损坏具有更优鲁棒性。
• 在MNIST、USPS与SVHN的少样本域自适应中，Uncertain SDG在每类10个目标样本下实现了81.53%的平均准确率，优于FADA与CCSA。
• 不确定性量化分析表明，该方法在未见域上降低了不确定性，体现为预测方差更低。
• 消融研究证实，潜在特征与标签的联合扰动显著提升了域泛化性能。
• 不确定性量化的整合在所有基准上均带来一致改进，尤其在具有挑战性的分布外设置中表现突出。