[论文解读] Constellation Loss: Improving the efficiency of deep metric learning loss functions for optimal embedding

Alfonso Medela, Artzai Picón|arXiv (Cornell University)|May 25, 2019

Video Surveillance and Tracking Methods参考文献 22被引用 8

一句话总结

本文提出了一种新型的深度度量学习损失函数——星象损失（constellation loss），该函数能够同时优化所有类别组合之间的类间距离，从而提升嵌入表示的质量。与三元组损失和多类别N-pair损失相比，该方法在聚类和分类任务中表现更优，准确率更高，且Davies-Bouldin指数和轮廓系数更低，表明聚类更加紧凑且分离度更高。

ABSTRACT

Metric learning has become an attractive field for research on the latest years. Loss functions like contrastive loss, triplet loss or multi-class N-pair loss have made possible generating models capable of tackling complex scenarios with the presence of many classes and scarcity on the number of images per class not only work to build classifiers, but to many other applications where measuring similarity is the key. Deep Neural Networks trained via metric learning also offer the possibility to solve few-shot learning problems. Currently used state of the art loss functions such as triplet and contrastive loss functions, still suffer from slow convergence due to the selection of effective training samples that has been partially solved by the multi-class N-pair loss by simultaneously adding additional samples from the different classes. In this work, we extend triplet and multiclass-N-pair loss function by proposing the constellation loss metric where the distances among all class combinations are simultaneously learned. We have compared our constellation loss for visual class embedding showing that our loss function over-performs the other methods by obtaining more compact clusters while achieving better classification results.

研究动机与目标

• 解决现有度量学习损失函数（如三元组损失与对比损失）存在的收敛缓慢及陷入次优局部极小值的问题。
• 克服多类别N-pair损失的局限性，即在优化过程中忽略负样本类别之间的距离。
• 设计一种损失函数，能够同时学习所有类别间的距离关系，以提升嵌入质量。
• 证明所提出的损失函数可在不依赖Siamese网络等专用架构的情况下，实现更好的泛化能力与聚类可分性。
• 在图像分类与聚类任务上验证该方法，结果表明其性能优于当前最先进的度量学习损失函数。

提出的方法

• 提出一种新型损失函数——星象损失，通过在优化过程中引入所有负类别之间的成对距离，扩展了多类别N-pair损失。
• 在单次前向传播中，同时最小化类内距离并最大化所有类别组合之间的类间距离。
• 采用智能的小批量选择策略以减少内存占用并提升训练效率，从而无需使用Siamese网络架构。
• 将损失形式化为可微函数，聚合小批量中所有类别对的三元组类似约束。
• 将损失集成到使用随机梯度下降训练的标准深度神经网络中，实现端到端学习。
• 应用t-SNE可视化分析学习到的嵌入空间，评估聚类的紧凑性与可分性。

实验结果

研究问题

• RQ1 与三元组损失和N-pair损失相比，一种能够联合优化所有类间距离的度量学习损失是否能提升嵌入质量？
• RQ2 星象损失是否能带来更优的聚类性能，如通过Davies-Bouldin指数与轮廓系数衡量？
• RQ3 与三元组损失及多类别N-pair损失相比，星象损失在训练稳定性与收敛速度方面表现如何？
• RQ4 所提出的损失是否能在不依赖Siamese或对比网络架构的情况下实现更高的分类准确率？
• RQ5 在图像嵌入任务中，为获得最佳性能，星象损失中应包含多少类别（K）为最优？

主要发现

• 星象损失在K=6时达到最高的分类准确率92.96% ± 0.51，优于三元组损失（91.74% ± 0.68）与多类别N-pair损失（91.48% ± 0.92）。
• 星象损失在K=4时取得最低的Davies-Bouldin指数0.4218 ± 0.0589，表明聚类可分性显著优于三元组损失（0.6384 ± 0.0773）与N-pair损失（0.6037 ± 0.0386）。
• 星象损失在K=6时取得最高的轮廓系数0.7905 ± 0.0134，表明聚类更加紧凑且分离度更高，优于其他方法。
• 星象损失展现出更稳定的训练动态，训练与验证损失均呈现更平滑的收敛趋势，而三元组损失则表现出不稳定的演化过程。
• 所提方法优于标准的Softmax交叉熵基线模型，证实其在少样本及类似少样本学习场景中的有效性。
• t-SNE可视化结果表明，使用星象损失学习到的嵌入在所有类别上均形成最紧凑且分离度最高的聚类。