[论文解读] NPT-Loss: A Metric Loss with Implicit Mining for Face Recognition

Syed Safwan Khalid, Muhammad Awais+5 more|arXiv (Cornell University)|Mar 5, 2021

Face recognition and analysis参考文献 36被引用 7

一句话总结

本文提出NPT-Loss，一种用于人脸识别的新颖度量损失，通过基于代理的三元组损失框架隐式实现难样本挖掘。该损失在理论上可保证类间最小可分性，仅需极少超参数调优，即可在高分辨率与低分辨率基准上实现最先进性能，优于基于边距的Softmax损失，且无需显式挖掘或复杂优化。

ABSTRACT

Face recognition (FR) using deep convolutional neural networks (DCNNs) has seen remarkable success in recent years. One key ingredient of DCNN-based FR is the appropriate design of a loss function that ensures discrimination between various identities. The state-of-the-art (SOTA) solutions utilise normalised Softmax loss with additive and/or multiplicative margins. Despite being popular, these Softmax+margin based losses are not theoretically motivated and the effectiveness of a margin is justified only intuitively. In this work, we utilise an alternative framework that offers a more direct mechanism of achieving discrimination among the features of various identities. We propose a novel loss that is equivalent to a triplet loss with proxies and an implicit mechanism of hard-negative mining. We give theoretical justification that minimising the proposed loss ensures a minimum separability between all identities. The proposed loss is simple to implement and does not require heavy hyper-parameter tuning as in the SOTA solutions. We give empirical evidence that despite its simplicity, the proposed loss consistently achieves SOTA performance in various benchmarks for both high-resolution and low-resolution FR tasks.

研究动机与目标

• 解决现有基于边距的Softmax损失在人脸识别中缺乏理论基础的问题。
• 设计一种损失函数，以理论上的严谨方式确保身份间最小类间可分性。
• 消除对显式难样本挖掘的需求，并减少对复杂超参数调优的依赖。
• 设计一种简单但高效的度量损失，可在多种人脸识别基准上持续优于最先进方法。

提出的方法

• 所提出的NPT-Loss被形式化为基于代理的三元组损失，其中每个身份在嵌入空间中由一个单一代理（质心）表示。
• 通过根据锚样本、正样本与代理特征之间的相对距离动态调整边距，损失函数隐式挖掘难样本。
• 通过最小化锚样本与代理之间的余弦距离，同时最大化其与负样本的边距，强制实现锚样本与正样本之间的最小角度边距。
• 该损失源自一个理论框架，可保证最小类间可分性，确保身份间具有鲁棒的区分能力。
• 该方法通过依赖基于代理的三元组结构的内在几何特性，避免了显式挖掘，简化了训练过程并降低了计算开销。
• 该损失实现简单，无需复杂超参数调优，与最先进基于边距的方法形成鲜明对比。

实验结果

研究问题

• RQ1 能否设计一种具有理论保证的度量损失，以确保人脸识别中身份间的最小类间可分性？
• RQ2 通过基于代理的三元组损失实现的隐式难样本挖掘，是否优于显式挖掘或基于边距的Softmax损失？
• RQ3 能否设计一种简单的损失函数，在无需大量超参数调优或复杂优化过程的情况下实现最先进性能？
• RQ4 所提出的损失在高分辨率与低分辨率人脸识别基准上的泛化能力如何？

主要发现

• NPT-Loss在高分辨率与低分辨率人脸识别基准上均实现了最先进性能，优于现有基于边距的Softmax损失。
• 该方法在多个数据集（包括MS-Celeb-1M、VGGFace2和CASIA-WebFace）上均表现出一致的性能提升，且无需针对特定任务调整超参数。
• 理论分析证实，最小化NPT-Loss可确保身份间存在最小角度边距，为区分能力提供了坚实基础。
• 实证结果表明，隐式挖掘机制能有效捕捉难样本，而无需显式采样或额外训练阶段。
• 该损失函数具有鲁棒性和泛化能力，在极少调优下即实现优异性能，而最先进方法则依赖复杂的边距配置。
• 该方法的简洁性使其具备高效的训练与部署能力，适用于实际应用场景。