[论文解读] Scalable Angular Discriminative Deep Metric Learning for Face Recognition

Bowen Wu, Wu, Huaming+1 more|arXiv (Cornell University)|Apr 29, 2018

Face recognition and analysis参考文献 18被引用 3

一句话总结

该论文提出了一种可扩展的角判别性深度度量学习方法，用于人脸验证，通过在训练过程中强制使类内余弦相似度超过一个边界值，实现训练与测试的一致性。该方法引入了自适应边界学习、特征归一化以及一种同时考虑类内与类间差异的渐进式损失函数，在 LFW、YTF 和 IJB-A 数据集上实现了最先进性能，准确率最高提升达 1.5%。

ABSTRACT

With the development of deep learning, Deep Metric Learning (DML) has achieved great improvements in face recognition. Specifically, the widely used softmax loss in the training process often bring large intra-class variations, and feature normalization is only exploited in the testing process to compute the pair similarities. To bridge the gap, we impose the intra-class cosine similarity between the features and weight vectors in softmax loss larger than a margin in the training step, and extend it from four aspects. First, we explore the effect of a hard sample mining strategy. To alleviate the human labor of adjusting the margin hyper-parameter, a self-adaptive margin updating strategy is proposed. Then, a normalized version is given to take full advantage of the cosine similarity constraint. Furthermore, we enhance the former constraint to force the intra-class cosine similarity larger than the mean inter-class cosine similarity with a margin in the exponential feature projection space. Extensive experiments on Labeled Face in the Wild (LFW), Youtube Faces (YTF) and IARPA Janus Benchmark A (IJB-A) datasets demonstrate that the proposed methods outperform the mainstream DML methods and approach the state-of-the-art performance.

研究动机与目标

• 解决标准 Softmax 损失在深度度量学习中用于人脸验证时，所学习特征存在的大类内差异问题。
• 使训练过程与测试协议保持一致，后者通常使用余弦相似度进行成对相似度计算。
• 通过引入自适应边界策略，减少对人工超参数调优的依赖。
• 通过在归一化特征空间中联合建模类内紧凑性与类间可分性，提升特征的判别能力。
• 开发一种可扩展的、可微的损失函数，在保持训练与推理一致性的同时，提升在无约束数据集上的泛化能力。

提出的方法

• 提出一种新型损失函数，在训练过程中强制类内余弦相似度超过固定边界值，提升与基于余弦相似度的测试的一致性。
• 引入一种困难样本挖掘策略，聚焦于误分类样本，提升在具有挑战性的身份上的边界学习效果。
• 设计一种自适应边界更新机制，根据局部特征分布动态调整边界值，减少人工调参。
• 在每个小批量中对特征和权重向量进行归一化，防止特征范数爆炸，稳定训练过程。
• 提出一种更先进的损失函数（DLMC），强制在指数特征投影空间中，类内余弦相似度超过最近邻类间相似度的平均值。
• 使用归一化的指数特征投影空间，在保持数值稳定性的同时增强判别能力。

实验结果

研究问题

• RQ1 在训练过程中强制类内余弦相似度超过最小边界值，是否能提升人脸识别性能？
• RQ2 困难样本挖掘是否能提升所提出的角边界损失在深度度量学习中的有效性？
• RQ3 自适应边界策略是否能在减少人工干预的同时，保持或提升性能？
• RQ4 在无约束人脸识别中，联合建模类内紧凑性与类间可分性，对特征判别能力有何影响？
• RQ5 所提出的损失函数是否能在具有不同姿态、光照与表情变化水平的多样化数据集上实现良好泛化？

主要发现

• 与标准 Softmax 损失相比，该方法在 LFW 数据集上实现了 0.6% 至 0.8% 的准确率提升。
• 在 YTF 数据集上，该方法相比基线方法性能提升了 1% 至 1.5%。
• DLMC 方法在 IJB-A 数据集上实现了 97.34% 的 Rank-1 识别率，优于 SOTA 方法如 NormFace 和 L-Softmax。
• 在 IJB-A 数据集上，DLMC 方法在 FAR=0.01 时的 ROC AUC 达到 86.02%，展现出强大的验证性能。
• 自适应边界策略显著减少了对人工边界调优的需求，同时保持或提升了准确率。
• 归一化损失（NLMC）与 DLMC+MALMC 组合变体在所有三个基准数据集上均表现出鲁棒性与一致的性能增益。