[论文解读] In Defense of the Triplet Loss Again: Learning Robust Person Re-Identification with Fast Approximated Triplet Loss and Label Distillation

Ye Yuan, Wuyang Chen+2 more|arXiv (Cornell University)|Dec 17, 2019

Video Surveillance and Tracking Methods参考文献 46被引用 9

一句话总结

本文提出Fast-Approximated Triplet（FAT）损失，一种针对行人重识别的线性复杂度替代方案，通过将点对点距离替换为点对集合距离并强制实现簇的紧凑性，替代标准三元组损失。此外，引入使用软伪标签的标签蒸馏方法，以提高对噪声标签的鲁棒性，在Market-1501、DukeMTMC-reID和MSMT17上实现了最先进（SOTA）的准确率和直接迁移性能。

ABSTRACT

The comparative losses (typically, triplet loss) are appealing choices for learning person re-identification (ReID) features. However, the triplet loss is computationally much more expensive than the (practically more popular) classification loss, limiting their wider usage in massive datasets. Moreover, the abundance of label noise and outliers in ReID datasets may also put the margin-based loss in jeopardy. This work addresses the above two shortcomings of triplet loss, extending its effectiveness to large-scale ReID datasets with potentially noisy labels. We propose a fast-approximated triplet (FAT) loss, which provably converts the point-wise triplet loss into its upper bound form, consisting of a point-to-set loss term plus cluster compactness regularization. It preserves the effectiveness of triplet loss, while leading to linear complexity to the training set size. A label distillation strategy is further designed to learn refined soft-labels in place of the potentially noisy labels, from only an identified subset of confident examples, through teacher-student networks. We conduct extensive experiments on three most popular ReID benchmarks (Market-1501, DukeMTMC-reID, and MSMT17), and demonstrate that FAT loss with distilled labels lead to ReID features with remarkable accuracy, efficiency, robustness, and direct transferability to unseen datasets.

研究动机与目标

• 解决标准三元组损失在大规模行人重识别任务中计算成本过高的问题。
• 提高在真实世界ReID数据集中对标签噪声和异常值的鲁棒性。
• 在无需困难样本挖掘的情况下，实现高效、可扩展的训练，同时保持基于边距损失的有效性。
• 通过蒸馏的软标签实现特征在未见数据集上的直接迁移。

提出的方法

• 将FAT损失推导为标准三元组损失的严格上界，用点到簇中心的距离替代点对点距离。
• 引入簇紧凑性正则化项，以增强身份簇的紧密性，提升泛化能力。
• 设计蒸馏网络，从置信样本中生成软伪标签，降低噪声硬标签的影响。
• 采用教师-学生训练范式：教师网络在置信样本子集上生成软标签，随后用于训练学生网络。
• 在交叉熵损失和FAT损失中均用软标签替代独热标签，并根据标签置信度重新加权梯度。
• 采用batchNeg或ctrdAll采样策略，进一步提升性能与泛化能力。

实验结果

研究问题

• RQ1 能否推导出一种计算高效的三元组损失替代方案，同时保持其基于排序的学习目标？
• RQ2 将点对点距离计算替换为点对集合距离，是否能降低训练复杂度，同时保持性能？
• RQ3 使用软伪标签进行标签蒸馏，能否缓解大规模ReID数据集中噪声标签的负面影响？
• RQ4 FAT损失与标签蒸馏的结合是否能同时提升域内准确率与零样本迁移性能？
• RQ5 所提出方法在具有不同噪声水平的多样化ReID基准上是否具备鲁棒性？

主要发现

• FAT损失在训练集规模上具有线性复杂度，与标准三元组损失相比，显著降低了训练时间。
• 在Market-1501上，使用batchNeg的CE-FAT优于所有使用ResNet50训练的先前SOTA损失方法。
• 使用DenseNet161时，CE-FAT在Market-1501上达到SOTA性能，并在直接迁移至DukeMTMC-reID时超越了Cycle-GAN领域自适应方法。
• 在MSMT17上，使用batchNeg的CE-FAT超越了先前报告的SOTA性能，甚至无需领域自适应。
• 使用软百分比方法的标签蒸馏实现了更优的迁移性能，优于硬标签方法和全数据集训练。
• CE-FAT-distillation在从MSMT17直接迁移至DukeMTMC-reID时达到SOTA迁移性能，甚至在未进行目标域微调的情况下，超越了HHL领域自适应方法。