[论文解读] Multiple Domain Experts Collaborative Learning: Multi-Source Domain Generalization For Person Re-Identification

Shijie Yu, Feng Zhu+6 more|arXiv (Cornell University)|May 26, 2021

Video Surveillance and Tracking Methods参考文献 59被引用 13

一句话总结

本文提出了一种模型无关的多源域泛化框架——多领域专家协同学习（MECL），用于行人重识别（ReID）。MECL通过领域-领域协同学习（DDCL）防止领域特定专家过拟合，并通过通用-领域协同学习（UDCL）训练一个聚合所有领域知识的通用专家，实现了无推理成本的最先进性能。

ABSTRACT

Recent years have witnessed significant progress in person re-identification (ReID). However, current ReID approaches still suffer from considerable performance degradation when unseen testing domains exhibit different characteristics from the source training ones, known as the domain generalization problem. Given multiple source training domains, previous Domain Generalizable ReID (DG-ReID) methods usually learn all domains together using a shared network, which can't learn sufficient knowledge from each domain. In this paper, we propose a novel Multiple Domain Experts Collaborative Learning (MECL) framework for better exploiting all training domains, which benefits from the proposed Domain-Domain Collaborative Learning (DDCL) and Universal-Domain Collaborative Learning (UDCL). DDCL utilizes domain-specific experts for fully exploiting each domain, and prevents experts from over-fitting the corresponding domain using a meta-learning strategy. In UDCL, a universal expert supervises the learning of domain experts and continuously gathers knowledge from all domain experts. Note, only the universal expert will be used for inference. Extensive experiments on DG-ReID benchmarks demonstrate the effectiveness of DDCL and UDCL, and show that the whole MECL framework significantly outperforms state-of-the-arts. Experimental results on DG-classification benchmarks also reveal the great potential of applying MECL to other DG tasks.

研究动机与目标

• 解决在测试域与训练域不同时行人ReID性能下降的问题，尤其在缺乏目标域数据的情况下。
• 克服现有域泛化方法中共享特征提取器的局限性，这些方法未能有效利用领域特定特征。
• 构建一种协同学习框架，使领域特定专家能从各自领域深度学习，同时通过跨领域知识共享保持泛化能力。
• 为多源DG-ReID建立一个强大且简洁的基线（多领域均等性，MDE），以促进未来研究。
• 通过在DG分类任务上的应用，证明该框架的泛化潜力，并取得显著性能提升。

提出的方法

• 提出一种模型无关的框架MECL，以协同方式训练多个领域特定专家和一个通用专家。
• 实施领域-领域协同学习（DDCL），通过元学习对每个领域专家进行正则化，以避免过拟合并提升跨领域鲁棒性。
• 提出通用-领域协同学习（UDCL），其中通用专家通过对齐损失和均匀性损失监督领域专家，并使用所有领域专家知识的指数移动平均（EMA）更新其参数。
• 在对齐损失中引入投影头，以增强通用专家与领域专家之间特征空间的一致性，从而提升泛化能力。
• 对通用专家的参数应用EMA，以稳定学习过程并提升在未见领域上的泛化性能。
• 通过在通用专家中添加分类器头，将框架适配至DG分类任务，证明其广泛适用性。

实验结果

研究问题

• RQ1 结合领域特定专家与通用专家的协同学习框架，能否提升多源域泛化在行人ReID中的泛化能力？
• RQ2 领域-领域协同学习（DDCL）是否能有效防止领域特定专家过拟合并增强跨领域鲁棒性？
• RQ3 通用-领域协同学习（UDCL）是否能使通用专家通过聚合所有领域知识，超越单个领域专家的性能？
• RQ4 所提出的MECL框架在多源DG-ReID与DG分类基准上，与最先进方法相比表现如何？
• RQ5 所提出的多领域均等性（MDE）基线能否作为未来多源DG-ReID研究的强大且简洁的基准？

主要发现

• MECL在多源DG-ReID基准上达到最先进性能，优于现有SOTA方法（包括QAConv、CBN、SNR、M3L和OSNet）。
• 当与SNR结合时，MECL在基准上的平均mAP从34.9%提升至44.5%，Top-1准确率从51.5%提升至60.9%。
• 通用专家在mAP上平均优于最佳领域特定专家1.3%，在Top-1准确率上平均优于1.5%，证明其更强的泛化能力。
• 在对齐损失中引入投影头，平均使mAP提升1.6%，Top-1准确率提升1.8%，显著改善泛化性能。
• 均匀性损失额外带来0.8%的mAP和0.9%的Top-1准确率增益，表明其在利用负样本方面的有效性。
• 在DG分类基准（PACS和OfficeHome）上，MECL分别以1.6%和3.2%的平均准确率优势超越最佳SOTA方法（MTL与Mixup）。