[论文解读] Asymmetric Co-Teaching for Unsupervised Cross Domain Person Re-Identification

Fengxiang Yang, Ke Li+8 more|arXiv (Cornell University)|Dec 3, 2019

Video Surveillance and Tracking Methods参考文献 31被引用 13

一句话总结

本文提出了一种名为非对称协同教学（Asymmetric Co-Teaching, ACT）的新框架，用于无监督跨域行人重识别，通过使用两个非对称模型改进基于聚类的域自适应：一个在多样化的内点和外点上进行训练，另一个仅在纯内点上训练，以抵抗噪声伪标签。ACT 在 Duke-to-Market 和 Market-to-Duke 基准上分别取得了 60.6% 和 54.5% 的最先进 mAP，通过迭代优化干净且多样的训练样本实现。

ABSTRACT

Person re-identification (re-ID), is a challenging task due to the high variance within identity samples and imaging conditions. Although recent advances in deep learning have achieved remarkable accuracy in settled scenes, i.e., source domain, few works can generalize well on the unseen target domain. One popular solution is assigning unlabeled target images with pseudo labels by clustering, and then retraining the model. However, clustering methods tend to introduce noisy labels and discard low confidence samples as outliers, which may hinder the retraining process and thus limit the generalization ability. In this study, we argue that by explicitly adding a sample filtering procedure after the clustering, the mined examples can be much more efficiently used. To this end, we design an asymmetric co-teaching framework, which resists noisy labels by cooperating two models to select data with possibly clean labels for each other. Meanwhile, one of the models receives samples as pure as possible, while the other takes in samples as diverse as possible. This procedure encourages that the selected training samples can be both clean and miscellaneous, and that the two models can promote each other iteratively. Extensive experiments show that the proposed framework can consistently benefit most clustering-based methods, and boost the state-of-the-art adaptation accuracy. Our code is available at https://github.com/FlyingRoastDuck/ACT_AAAI20.

研究动机与目标

• 解决基于聚类的无监督域自适应在行人重识别中因噪声伪标签和低置信度样本被丢弃所带来的问题。
• 克服对称协同教学的局限性，后者因高训练损失而忽略困难的低置信度样本。
• 通过非对称数据流显式过滤并重用外点与内点，提升模型泛化能力。
• 通过使用干净和多样的训练数据进行迭代相互促进，增强两个模型的判别能力。

提出的方法

• 该框架从在目标伪标签上微调过的预训练源模型初始化两个模型：主模型（Main）和协作模型（Collaborator）。
• 利用聚类方法（如 DBSCAN 或 k-means 结合外点阈值化）将目标样本划分为内点（高置信度聚类）和外点（低置信度、高变化性样本）。
• 主模型在所有内点和外点上进行训练，以最大化多样性；协作模型仅在损失值较小的内点上训练，以确保样本纯净性。
• 在协同教学过程中，每个模型从另一模型的输出中选择损失最小的样本，实现相互优化并增强抗噪声能力。
• 通过使用越来越干净和具有代表性的样本重新训练，该过程迭代提升聚类质量和模型性能。
• 通过将外点定义为距离聚类中心最远的样本，该方法兼容多种聚类方法，包括 k-means 和 DBSCAN。

实验结果

研究问题

• RQ1 非对称协同教学能否提升基于聚类的无监督域自适应在行人重识别中的鲁棒性？
• RQ2 当与抗噪声训练结合时，包含低置信度（外点）样本如何影响模型泛化能力？
• RQ3 非对称数据流（一个模型接收多样化输入，另一个接收纯净输入）是否优于对称协同教学，带来更优性能？
• RQ4 所提出的框架在多大程度上兼容 k-means 和 DBSCAN 等不同聚类算法？
• RQ5 伪标签和模型权重的迭代优化是否能持续提升 mAP 和 rank-1 准确率？

主要发现

• ACT 在 Duke-to-Market 基准上达到 60.6% 的新最先进 mAP，在 Market-to-Duke 基准上达到 54.5%，优于基线聚类方法。
• 当使用最远 20% 和 30% 的样本作为外点时，与基线 k-means 方法相比，mAP 分别提升 3.3% 和 3.1%。
• 聚类质量的 F-score 随迭代次数增加，表明聚类判别性与模型泛化能力得到提升。
• 外点数量随训练过程减少，证实模型学会了更有效地分配和过滤困难样本。
• 协作模型的性能始终低于主模型，验证了其在学习纯、低损失样本中的作用。
• ACT 在不同聚类方法上均保持一致的性能增益，表明其具备强大兼容性与泛化能力。