[论文解读] Global Distance-distributions Separation for Unsupervised Person Re-identification

Xin Jin, Cuiling Lan+2 more|arXiv (Cornell University)|Jun 1, 2020

Video Surveillance and Tracking Methods参考文献 51被引用 7

一句话总结

本文提出一种全局距离分布分离（GDS）约束，通过鼓励正样本与负样本距离分布之间的清晰分离，提升无监督行人重识别性能。通过将这些分布建模为高斯分布，并采用基于动量的更新机制以维持全局统计信息，该方法增强了特征空间的可分性，并实现了分布感知的难样本挖掘，在训练开销极低的情况下实现了最先进性能。

ABSTRACT

Supervised person re-identification (ReID) often has poor scalability and usability in real-world deployments due to domain gaps and the lack of annotations for the target domain data. Unsupervised person ReID through domain adaptation is attractive yet challenging. Existing unsupervised ReID approaches often fail in correctly identifying the positive samples and negative samples through the distance-based matching/ranking. The two distributions of distances for positive sample pairs (Pos-distr) and negative sample pairs (Neg-distr) are often not well separated, having large overlap. To address this problem, we introduce a global distance-distributions separation (GDS) constraint over the two distributions to encourage the clear separation of positive and negative samples from a global view. We model the two global distance distributions as Gaussian distributions and push apart the two distributions while encouraging their sharpness in the unsupervised training process. Particularly, to model the distributions from a global view and facilitate the timely updating of the distributions and the GDS related losses, we leverage a momentum update mechanism for building and maintaining the distribution parameters (mean and variance) and calculate the loss on the fly during the training. Distribution-based hard mining is proposed to further promote the separation of the two distributions. We validate the effectiveness of the GDS constraint in unsupervised ReID networks. Extensive experiments on multiple ReID benchmark datasets show our method leads to significant improvement over the baselines and achieves the state-of-the-art performance.

研究动机与目标

• 为解决无监督行人重识别中正负样本距离分布可分性差的问题，该问题会损害检索性能。
• 通过引入全局分布级别的约束，弥合局部优化目标与ReID全局排序需求之间的差距。
• 通过自监督方式建模并优化距离分布的全局统计量（均值与方差），以提升无监督ReID性能。
• 通过利用学习到的全局分布统计量指导训练，实现有效的难样本挖掘。
• 在显著提升模型在域偏移、未标注目标域中的泛化能力与鲁棒性的同时，保持极低的训练开销。

提出的方法

• 该方法将正负样本对的全局距离分布建模为具有可学习均值与方差参数的高斯分布。
• 采用动量更新机制，在训练过程中实时维护并更新全局分布参数（μ⁺, σ⁺², μ⁻, σ⁻²），以确保统计量的稳定与及时性。
• 基于当前对全局分布的估计，实时计算GDS损失，以促进两高斯分布之间的分离，同时提升分布的尖锐性（降低方差）。
• 通过选择位于分布硬尾区域的样本（如最远的正样本或最近的负样本）实现基于分布的难样本挖掘，以提升泛化能力。
• 该方法被集成到基于伪标签与聚类的无监督ReID流程中，计算开销极低。
• 该方法与现有基于聚类的无监督ReID框架兼容，可作为即插即用的损失函数使用。

实验结果

研究问题

• RQ1 通过减少正负样本距离之间的重叠，全局距离分布分离是否能有效提升无监督行人重识别性能？
• RQ2 通过动量更新机制建模全局分布统计量（均值与方差），对无监督ReID中特征空间的可分性有何影响？
• RQ3 与标准难样本挖掘相比，基于分布感知的难样本挖掘在多大程度上提升了模型的泛化能力？
• RQ4 GDS约束在不同聚类算法与域自适应设置下是否仍保持有效性？
• RQ5 将GDS损失集成到现有无监督ReID训练流程中的计算成本如何？

主要发现

• 所提出的GDS约束显著提升了正负距离分布的可分性，训练集与测试集直方图均显示更清晰的分离。
• 在Market1501-to-DukeMTMC-reID基准上，该方法达到49.0% mAP与67.2% Rank-1，较基线提升8.8个百分点。
• 该方法在不同聚类算法下均一致提升性能，mAP提升分别为6.7%（DBSCAN）与6.1%（HDBSCAN）。
• 训练时间增加极小——仅比基线高1.7%（18.2小时 vs. 17.9小时），证明了极低的计算开销。
• GDS约束在全监督ReID中也提升了性能，尽管增益较小（1.6–1.9% mAP），表明其具有更广泛的应用潜力。
• 基于动量的更新机制确保了全局分布统计量的稳定与及时估计，这对训练过程中有效损失计算至关重要。