[论文解读] Triplet Distillation for Deep Face Recognition

Yushu Feng, Huan Wang+2 more|arXiv (Cornell University)|May 11, 2019

Face recognition and analysis参考文献 32被引用 4

一句话总结

本文提出三元组蒸馏（triplet distillation），一种基于知识蒸馏的方法，利用教师模型动态调整三元组损失中的边界，以提升轻量化学生网络在人脸识别任务中的性能。通过将教师模型的特征距离中蕴含的类间相似性知识迁移至学生模型，该方法在LFW、AgeDB和CPLFW数据集上均达到当前最优性能，在CPLFW上较固定边界三元组损失提升0.52%准确率，在AgeDB-30上提升0.74%。

ABSTRACT

Convolutional neural networks (CNNs) have achieved a great success in face recognition, which unfortunately comes at the cost of massive computation and storage consumption. Many compact face recognition networks are thus proposed to resolve this problem. Triplet loss is effective to further improve the performance of those compact models. However, it normally employs a fixed margin to all the samples, which neglects the informative similarity structures between different identities. In this paper, we propose an enhanced version of triplet loss, named triplet distillation, which exploits the capability of a teacher model to transfer the similarity information to a small model by adaptively varying the margin between positive and negative pairs. Experiments on LFW, AgeDB, and CPLFW datasets show the merits of our method compared to the original triplet loss.

研究动机与目标

• 为解决因模型容量减小导致的紧凑人脸识别模型性能下降问题。
• 克服固定边界三元组损失无法捕捉特定身份间相似性结构的局限性。
• 通过结合自适应边界的知识蒸馏，提升轻量化模型中的度量学习性能。
• 将大型教师模型中蕴含的类间相似性信息迁移至小型学生模型，以实现更优的决策边界学习。

提出的方法

• 该方法采用预训练的ResNet-100作为教师模型，以精简版MobileFaceNet作为学生模型。
• 利用教师模型的特征嵌入计算类间距离，以确定动态边界。
• 每个三元组的边界定义为教师模型中正样本对与负样本对距离差的线性函数：$ \mathcal{F}(d) = \frac{m_{\text{max}} - m_{\text{min}}}{d_{\text{max}}} d + m_{\text{min}} $。
• 学生模型首先使用ArcFace损失进行预训练，随后通过所提出的带有自适应边界的三元组蒸馏损失进行微调。
• 损失函数结合了学生模型的特征距离与教师模型的相似性知识，强化了类内紧凑性与类间分离性。
• 动态边界确保距离更大的困难身份对（由教师模型估计）获得更大的边界，从而提升泛化能力。

实验结果

研究问题

• RQ1 知识蒸馏能否有效应用于人脸识别中的三元组损失优化，通过从教师模型迁移相似性知识？
• RQ2 基于教师模型距离计算的动态、数据相关边界是否在轻量化模型中优于固定边界三元组损失？
• RQ3 学生模型是否能通过学习教师模型的类间相似性结构，在标准基准上实现更高准确率？
• RQ4 在多样化数据集上，所提出的三元组蒸馏与标准固定边界三元组损失相比，在验证准确率方面表现如何？

主要发现

• 经三元组蒸馏微调的学生模型在LFW上达到99.27%的准确率，优于最佳固定边界三元组损失（99.23%，边界为0.4）。
• 在CPLFW上，该方法达到81.28%的准确率，较最佳固定边界三元组损失（80.80%，边界为0.3）提升2.75%。
• 在AgeDB-30上，该方法实现94.37%的准确率，较最佳固定边界三元组损失（94.08%，边界为0.3）提升0.84%。
• 在所有三个基准测试中性能提升均保持一致，证明了基于教师模型知识生成的动态边界具有显著有效性。
• 学生模型在仅使用ArcFace训练时于CPLFW上初始准确率为78.53%，经三元组蒸馏后提升至81.28%，展现出强大的微调能力。
• 该方法有效迁移了教师模型中的相似性结构知识，使学生网络能够实现更优的决策边界学习。