[论文解读] Additive Margin Softmax for Face Verification

Wang Feng, Weiyang Liu+2 more|arXiv (Cornell University)|Jan 17, 2018

Face recognition and analysis被引用 14

一句话总结

本文提出了一种新型的损失函数——加法边缘Softmax（AM-Softmax），用于深度人脸验证。该方法通过从特征向量与权重向量之间夹角的余弦值中减去一个标量边缘 $ m $，强制实现较大的角度边缘。通过结合特征归一化与权重归一化，并引入加法边缘，AM-Softmax在LFW和MegaFace基准上实现了最先进性能，优于相同训练和网络条件下先前的A-Softmax方法。

ABSTRACT

In this paper, we propose a conceptually simple and geometrically interpretable objective function, i.e. additive margin Softmax (AM-Softmax), for deep face verification. In general, the face verification task can be viewed as a metric learning problem, so learning large-margin face features whose intra-class variation is small and inter-class difference is large is of great importance in order to achieve good performance. Recently, Large-margin Softmax and Angular Softmax have been proposed to incorporate the angular margin in a multiplicative manner. In this work, we introduce a novel additive angular margin for the Softmax loss, which is intuitively appealing and more interpretable than the existing works. We also emphasize and discuss the importance of feature normalization in the paper. Most importantly, our experiments on LFW BLUFR and MegaFace show that our additive margin softmax loss consistently performs better than the current state-of-the-art methods using the same network architecture and training dataset. Our code has also been made available at https://github.com/happynear/AMSoftmax

研究动机与目标

• 开发一种更具可解释性且更有效的大型边缘损失函数，用于深度人脸验证。
• 解决现有基于边缘的损失函数中使用乘法或复杂角度边缘公式所带来的局限性。
• 通过一种几何上直观的加法边缘策略，提升类内紧凑性与类间可分性。
• 在相同网络和训练数据条件下，通过实证验证其相对于最先进方法的持续性能提升。
• 强调特征归一化在提升鲁棒性方面的重要作用，尤其是在MegaFace等低质量数据集上。

提出的方法

• 提出一种新的边缘策略，定义为 $ \cos\theta - m $，其中 $ m $ 是可学习的标量边缘，直接应用于Softmax损失中的目标logit。
• 通过实施特征向量与权重向量的归一化，确保角度边缘以几何上一致的方式应用。
• 使用固定缩放因子 $ s = 30 $ 控制logit的幅度，将主要超参数聚焦于边缘 $ m $。
• 在CASIA-WebFace数据集上，对基于20层ResNet的人脸识别模型进行端到端训练，通过图像镜像增强数据。
• 推理时采用余弦相似度，并通过原始图像与镜像图像的特征平均来提升鲁棒性。
• 为确保公平的开放集评估，对训练集与测试集（LFW和MegaFace）进行了重叠样本移除处理。

实验结果

研究问题

• RQ1 在Softmax损失中，更简单的加法边缘策略是否能在人脸验证任务中超越现有的乘法边缘方法？
• RQ2 特征归一化在基于边缘的损失函数中如何影响泛化能力与鲁棒性，尤其是在低质量数据集上？
• RQ3 加法边缘 $ m $ 的最优值是多少？其对开放集基准性能有何影响？
• RQ4 在与先前方法相同的训练条件下，所提出的AM-Softmax损失是否实现了最先进性能？
• RQ5 与复杂的分段角度边缘函数相比，加法边缘策略是否更具可解释性且更有效？

主要发现

• 在LFW BLUFR协议下，AM-Softmax实现了99.38%的准确率，优于相同训练与网络设置下的先前最先进方法。
• 在MegaFace Set 1上，AM-Softmax在去除数据集重叠后，实现了72.47%的Rank-1准确率与84.44%的验证率，表明其在开放集评估中的鲁棒性。
• 最优边缘值被确定为 $ m = 0.35 $，当 $ m $ 超过0.4时性能开始下降。
• 特征归一化显著提升了在MegaFace上的性能，而使用未归一化的特征在高质量LFW数据集上表现更优。
• AM-Softmax在CMC与ROC曲线上的表现均优于A-Softmax、Center Loss与NormFace，尤其在低排名与低假阳性率区域表现更优。
• 消融实验确认，加法边缘策略在实践中比乘法或复杂角度边缘公式更具有效性。