[论文解读] MixMatch Domain Adaptaion: Prize-winning solution for both tracks of VisDA 2019 challenge

Д. И. Рухович, Danil Galeev|arXiv (Cornell University)|Oct 9, 2019

Domain Adaptation and Few-Shot Learning参考文献 4被引用 11

一句话总结

本论文提出一种基于MixMatch的领域自适应方法，采用EfficientNet作为主干网络，在VisDA 2019挑战赛的多源领域适应赛道中获得第二名，在半监督赛道中获得第三名。该方法通过改进小批量构建方式与损失加权策略提升了训练稳定性，模型集成进一步使测试集准确率提升1%。

ABSTRACT

We present a domain adaptation (DA) system that can be used in multi-source and semi-supervised settings. Using the proposed method we achieved 2nd place on multi-source track and 3rd place on semi-supervised track of the VisDA 2019 challenge (http://ai.bu.edu/visda-2019/). The source code of the method is available at https://github.com/filaPro/visda2019.

研究动机与目标

• 提出一种统一框架，用于在无监督多源和半监督领域适应设置下进行领域自适应。
• 在无目标域标签数据的情况下，提升模型在多样化领域（如真实图像、素描、剪贴画）之间的泛化能力。
• 通过重新配置小批量组成与归一化统计量，提升基于MixMatch的领域自适应训练稳定性。
• 与ResNet基线模型相比，评估EfficientNet作为主干网络在领域自适应任务中的性能表现。
• 验证通过使用不同主干网络和损失权重配置的模型集成，可有效提升模型鲁棒性与准确率。

提出的方法

• 通过调整小批量构建方式，将MixMatch适配于领域自适应：在多源设置中，标签小批量包含来自k个源域的等量样本；在半监督设置中，包含1/5的已标注目标域图像。
• 在训练过程中采用平衡的小批量组成（1/3源域，2/3目标域），以稳定混合小批量与领域特定小批量之间的批量归一化统计量。
• 采用EfficientNet-B5和B6作为主干网络，利用其通过神经架构搜索获得的高准确率与参数效率。
• 在训练和测试阶段一致应用数据增强：将图像缩放至256×256，进行随机水平翻转，并随机裁剪至224×224。
• 实现改进的训练循环，每个训练步长中主干网络被调用五次——两次用于目标域小批量，三次用于混合小批量，以平衡梯度更新。
• 在推理阶段采用模型集成，结合使用不同主干网络（B5、B6）和损失权重超参数（333.0、1000.0）的模型预测结果。

实验结果

研究问题

• RQ1 在仅依赖极少目标域监督的情况下，MixMatch能否有效适配于多源和半监督领域自适应？
• RQ2 与ResNet相比，使用EfficientNet作为主干网络在领域自适应性能与训练稳定性方面表现如何？
• RQ3 小批量组成对基于MixMatch的领域自适应中批量归一化稳定性有何影响？
• RQ4 模型集成在领域自适应基准测试中能在多大程度上提升泛化能力与准确率？
• RQ5 在结合强数据增强与一致性训练的前提下，少量已标注目标域图像在半监督领域自适应中的有效性如何？

主要发现

• 基于MixMatch的方法在多源赛道验证集上达到61.9%的准确率，较基线模型（51.9%）提升10个百分点。
• 在半监督赛道中，MixMatch模型达到63.9%的准确率，较无目标域标签数据的基线模型（45.7%）提升10.5个百分点。
• 在测试阶段，多源模型使用EfficientNet-B5与333.0损失权重时准确率达到69.9%，通过模型集成进一步提升至71.6%。
• 对于半监督赛道，最佳单模型准确率达到70.4%，通过模型集成提升至71.3%，使团队位列第三。
• 最终结果在多源赛道中位列第二（71.6%），在半监督赛道中位列第三（71.3%），仅次于两名表现最优的团队。
• 消融实验验证了领域自适应显著提升了模型性能，其中在半监督设置下使用目标域标签数据带来的性能增益最大。