[论文解读] Ring loss: Convex Feature Normalization for Face Recognition

Yutong Zheng, Dipan K. Pal+1 more|arXiv (Cornell University)|Feb 28, 2018

Face recognition and analysis参考文献 23被引用 10

一句话总结

本文提出Ring损失，一种凸性、可微的特征归一化方法，将深度神经网络特征约束在单位超球面上的可学习范数上，从而提升人脸识别的鲁棒性。该方法在IJB-A Janus和Janus CS3上优于当前最先进方法，在包含100万干扰项的MegaFace数据集上达到最先进性能，并通过训练过程中保持一致的特征范数，提升了低分辨率人脸识别的匹配性能。

ABSTRACT

We motivate and present Ring loss, a simple and elegant feature normalization approach for deep networks designed to augment standard loss functions such as Softmax. We argue that deep feature normalization is an important aspect of supervised classification problems where we require the model to represent each class in a multi-class problem equally well. The direct approach to feature normalization through the hard normalization operation results in a non-convex formulation. Instead, Ring loss applies soft normalization, where it gradually learns to constrain the norm to the scaled unit circle while preserving convexity leading to more robust features. We apply Ring loss to large-scale face recognition problems and present results on LFW, the challenging protocols of IJB-A Janus, Janus CS3 (a superset of IJB-A Janus), Celebrity Frontal-Profile (CFP) and MegaFace with 1 million distractors. Ring loss outperforms strong baselines, matches state-of-the-art performance on IJB-A Janus and outperforms all other results on the challenging Janus CS3 thereby achieving state-of-the-art. We also outperform strong baselines in handling extremely low resolution face matching.

研究动机与目标

• 解决深度人脸识别中特征归一化缺乏理论依据的问题。
• 克服现有方法中硬性归一化导致的非凸性问题，避免优化不稳定和局部极小值。
• 提出一种凸性、可微的归一化方法，使网络在训练过程中能够学习最优特征范数。
• 通过将特征归一化与推理阶段使用的余弦匹配对齐，弥合训练与测试协议之间的差距。
• 提升人脸识别任务在分辨率退化和姿态变化下的鲁棒性。

提出的方法

• Ring损失引入一种凸范数约束，通过训练过程逐步学习将特征范数约束到目标值R，避免非凸的硬性归一化。
• 其形式为可微的软归一化损失，与主分类损失（如Softmax）联合优化，仅包含一个超参数：损失权重λ。
• 采用l2-范数约束的凸松弛形式，确保优化稳定，避免非凸公式导致的局部极小值。
• 目标范数R在训练过程中内生地被学习，使网络能够自适应地确定最优特征幅值。
• 通过基于梯度的优化方法无缝集成到深度网络中，支持标准反向传播。
• 隐式促进特征空间中的余弦相似性，使训练与推理阶段使用的余弦距离度量保持一致。

实验结果

研究问题

• RQ1 与非凸替代方法相比，凸性、可微的归一化方法是否能提升深度人脸识别性能？
• RQ2 在训练过程中学习共享的最优特征范数，是否能增强对分辨率退化和姿态变化的鲁棒性？
• RQ3 特征归一化能否减少人脸识别中训练与推理协议之间的差异？
• RQ4 在极端低分辨率设置下，Ring损失与现有归一化技术（如l2约束Softmax和中心损失）相比表现如何？
• RQ5 Ring损失的凸性是否能带来更稳定、泛化能力更强的特征表示，适用于多样化的基准测试？

主要发现

• Ring损失在IJB-A Janus 1:1验证协议上达到最先进性能，优于所有先前方法，包括SphereFace和l2约束Softmax。
• 在更具挑战性的Janus CS3协议上，Ring损失在10^-3 FAR下达到90.99%的验证率，超越所有基线方法，创下新最先进纪录。
• 在包含100万干扰项的MegaFace基准上，Ring损失优于强基线方法，并达到最先进性能。
• 在低分辨率实验中，Ring损失在64倍下采样下仍保持性能，而l2约束Softmax性能下降，甚至劣于标准Softmax。
• 在CFP正面与侧脸数据集上，Ring损失在10^-3 FAR下将验证准确率提升至87.43%，显著优于Softmax（55.86%）和l2约束Softmax（83.69%）。
• 该方法在广泛的λ取值范围内均表现出一致的性能提升，表明对超参数调优具有鲁棒性。