[论文解读] Git Loss for Deep Face Recognition

Alessandro Calefati, Muhammad Kamran Janjua+2 more|arXiv (Cornell University)|Jul 23, 2018

Face recognition and analysis参考文献 24被引用 10

一句话总结

本文提出了一种名为 Git loss 的新型联合监督损失函数，用于深度人脸识别，该损失函数结合了 softmax 损失与中心损失，以最小化类内差异并最大化类间距离。通过借鉴 Git 的 'push' 和 'pull' 命令的语义类比，增强了特征的可分性，在仅使用 ≈300 万张训练图像的情况下，于 LFW 上实现了 99.30% 的最先进准确率，在 YTF 上达到了 95.30%。

ABSTRACT

Convolutional Neural Networks (CNNs) have been widely used in computer vision tasks, such as face recognition and verification, and have achieved state-of-the-art results due to their ability to capture discriminative deep features. Conventionally, CNNs have been trained with softmax as supervision signal to penalize the classification loss. In order to further enhance the discriminative capability of deep features, we introduce a joint supervision signal, Git loss, which leverages on softmax and center loss functions. The aim of our loss function is to minimize the intra-class variations as well as maximize the inter-class distances. Such minimization and maximization of deep features are considered ideal for face recognition task. We perform experiments on two popular face recognition benchmarks datasets and show that our proposed loss function achieves maximum separability between deep face features of different identities and achieves state-of-the-art accuracy on two major face recognition benchmark datasets: Labeled Faces in the Wild (LFW) and YouTube Faces (YTF). However, it should be noted that the major objective of Git loss is to achieve maximum separability between deep features of divergent identities.

研究动机与目标

• 提升深度人脸特征的可分性，以获得更优的识别性能。
• 解决标准 softmax 损失的局限性，后者仅惩罚分类错误，而未控制特征的紧凑性或可分性。
• 将 softmax 损失与中心损失的优势整合为一个统一的、端到端可训练的损失函数。
• 在保持类内紧凑性的同时，实现身份间特征的最大化可分性。
• 在训练数据量少于以往最先进方法的前提下，验证其在标准基准上的泛化能力与有效性。

提出的方法

• Git loss 将交叉熵 softmax 损失与中心损失相结合，联合优化分类与特征聚类。
• 该损失函数通过最小化特征与类别中心之间的距离（类内紧凑性），同时最大化类别中心之间的距离（类间分离）。
• 使用超参数 λC 来平衡类内与类间优化之间的权衡。
• 该方法兼容标准 CNN 架构（如 Inception-ResNet-V1），并可使用 SGD 进行端到端训练。
• 名称 'Git loss' 灵感来源于 Git 命令中的 'push'（分离类别）与 'pull'（聚合同类别特征）。
• 采用系统性的启发式搜索来调整超参数，避免在高维空间中使用网格搜索带来的计算负担。

实验结果

研究问题

• RQ1 结合 softmax 与中心损失的联合损失函数是否能在个体损失之外进一步提升深度人脸特征的可分性？
• RQ2 与 FaceNet 和 ArcFace 等最先进方法相比，Git loss 在准确率与泛化能力方面表现如何？
• RQ3 Git loss 在学习到的特征空间中，能在多大程度上减少类内差异并增加类间距离？
• RQ4 Git loss 是否能在少于以往方法的训练图像数量下实现最先进性能？
• RQ5 Git loss 对超参数设置（尤其是 λC）的敏感度如何？

主要发现

• 在 Labeled Faces in the Wild (LFW) 基准上，Git loss 达到了 99.30% 的准确率，优于标准 softmax 损失（98.40%）与中心损失（99.20%），且在相同架构与数据集条件下表现更优。
• 在 YouTube Faces (YTF) 数据集上，Git loss 达到 95.30% 的准确率，超过 softmax（93.60%）与中心损失（95.10%），且在相同训练条件下表现更优。
• 在 MNIST 上的定性与定量对比显示，所提出的损失函数比单独使用中心损失更有效地减少类内距离并增加类间距离。
• Git loss 仅使用 ≈300 万张训练图像即实现了最先进性能，显著少于 FaceNet（2 亿张）与 Fusion（5 亿张）等方法。
• 超参数分析表明，较小的 λC 值虽能增加类间距离，但也会提高类内方差，表明存在权衡关系，而 Git loss 有效平衡了这一权衡。
• 该方法具有鲁棒性且泛化能力强，已在多个基准与训练协议（包括开放集评估）中得到验证。