[论文解读] Episodic Training for Domain Generalization

Da Li, Jianshu Zhang+4 more|arXiv (Cornell University)|Jan 31, 2019

Domain Adaptation and Few-Shot Learning参考文献 42被引用 29

一句话总结

该论文通过在训练过程中通过特征提取器与分类器模块之间的对抗性交互来模拟领域偏移，提出了一种用于领域泛化（DG）的事件式训练方法，在标准DG基准上实现了最先进性能，并在大规模Visual Decathlon基准上展示了ImageNet预训练特征在下游任务中的鲁棒性提升。

ABSTRACT

Domain generalization (DG) is the challenging and topical problem of learning models that generalize to novel testing domains with different statistics than a set of known training domains. The simple approach of aggregating data from all source domains and training a single deep neural network end-to-end on all the data provides a surprisingly strong baseline that surpasses many prior published methods. In this paper, we build on this strong baseline by designing an episodic training procedure that trains a single deep network in a way that exposes it to the domain shift that characterises a novel domain at runtime. Specifically, we decompose a deep network into feature extractor and classifier components, and then train each component by simulating it interacting with a partner who is badly tuned for the current domain. This makes both components more robust, ultimately leading to our networks producing state-of-the-art performance on three DG benchmarks. Furthermore, we consider the pervasive workflow of using an ImageNet trained CNN as a fixed feature extractor for downstream recognition tasks. Using the Visual Decathlon benchmark, we demonstrate that our episodic-DG training improves the performance of such a general-purpose feature extractor by explicitly training a feature for robustness to novel problems. This shows that DG training can benefit standard practice in computer vision.

研究动机与目标

• 为在缺乏目标领域数据的情况下提升模型对领域偏移的鲁棒性，这是领域泛化（DG）中的一个关键挑战。
• 开发一种简单、与模型无关的训练方法，以增强泛化能力，而无需依赖复杂的架构或优化器。
• 通过在标准视觉工作流中使用ImageNet预训练特征来展示DG训练的实际价值，而不仅限于孤立的基准测试。
• 在具有多样化领域和标签空间的大规模异构基准（Visual Decathlon）上评估事件式DG。

提出的方法

• 该方法将深度网络分解为特征提取器和分类器，通过模拟与性能较差的搭档模块的交互来训练每个组件，以模仿领域偏移。
• 通过创建合成的训练事件来实现事件式训练，其中分类器在当前领域中被随机初始化或配置不当，迫使特征提取器适应。
• 该方法采用随机分类器（R）变体以支持异构标签空间，从而实现在具有不同类别的领域之间进行训练。
• 采用多领域训练循环，其中每个事件采样一个源领域和一个随机初始化的分类器，特征提取器被训练以在这些对抗性设置中实现泛化。
• 该方法为端到端、与模型无关，且与标准优化器和架构（如ResNet-18）兼容。
• 为实际评估，通过拼接和平均池化将训练好的特征提取器与ImageNet预训练特征结合，以提升下游任务的性能。

实验结果

研究问题

• RQ1 事件式训练是否能在不依赖专用架构或优化器的情况下，提升标准DG基准上的领域泛化性能？
• RQ2 事件式训练是否能生成更鲁棒的特征，使其在异构设置下泛化到新型、未见过的领域？
• RQ3 DG训练是否能提升标准ImageNet预训练CNN作为固定特征提取器在下游任务中的性能？
• RQ4 事件式训练在具有多样化领域和标签空间的大规模真实世界基准（如Visual Decathlon）上如何扩展？

主要发现

• 所提出的事件式训练方法在三个主要DG基准上实现了最先进性能，优于现有方法，包括MLDG、CrossGrad和DANN。
• 在Visual Decathlon基准上，事件式DG方法（Epi-R）的平均准确率和VD得分均高于强基线AGG及其他DG竞争方法。
• 当将ImageNet预训练特征用作固定提取器时，该方法显著提升了其在下游任务中的性能，展示了超越孤立基准的实际价值。
• 通过拼接和平均池化将ImageNet预训练特征与VD-DG训练得到的特征结合，可获得最佳整体性能，优于直接将ImageNet作为源领域包含在内。
• 结果表明，事件式训练能有效提升大规模、异构领域泛化设置下的特征鲁棒性，这是首次在该规模上实现此类演示。
• 该方法高效、与模型无关，且无需非标准训练流程，因此适用于计算机视觉工作流中的广泛采用。