[論文レビュー] Triplet Distillation for Deep Face Recognition

Yushu Feng, Huan Wang+2 more|arXiv (Cornell University)|May 11, 2019

Face recognition and analysis参考文献 32被引用数 4

ひとこと要約

本稿では、教師モデルを用いて三重損失のマージンを動的に調整する知識蒸留に基づく手法、三重損失蒸留を提案する。この手法により、軽量な学生ネットワークにおける顔認識性能が向上する。教師モデルの特徴距離から得られる識別間類似度の知識を学生モデルに転送することで、LFW、AgeDB、CPLFWの各ベンチマークで最先端の性能を達成し、固定マージンの三重損失を上回る。CPLFWでは0.52%の精度向上、AgeDB-30では0.74%の向上を達成した。

ABSTRACT

Convolutional neural networks (CNNs) have achieved a great success in face recognition, which unfortunately comes at the cost of massive computation and storage consumption. Many compact face recognition networks are thus proposed to resolve this problem. Triplet loss is effective to further improve the performance of those compact models. However, it normally employs a fixed margin to all the samples, which neglects the informative similarity structures between different identities. In this paper, we propose an enhanced version of triplet loss, named triplet distillation, which exploits the capability of a teacher model to transfer the similarity information to a small model by adaptively varying the margin between positive and negative pairs. Experiments on LFW, AgeDB, and CPLFW datasets show the merits of our method compared to the original triplet loss.

研究の動機と目的

• モデル容量の低下に起因するコンactな顔認識モデルの性能低下を是正すること。
• 固定マージンの三重損失には限界があり、識別固有の類似度構造を捉えられていないという問題を克服すること。
• 適応的マージンを用いた知識蒸留を活用することで、軽量モデルにおけるメトリクス学習を向上させること。
• 大規模な教師モデルから小規模な学生モデルへ、識別間の類似度情報の転送を実施し、より良い意思決定境界の学習を実現すること。

提案手法

• 教師モデルとして事前学習済みのResNet-100を、学生モデルとしてスリム化されたMobileFaceNetを用いる。
• 教師モデルの特徴埋め込みを用いて識別間距離を計算し、動的マージンを決定する。
• 各三重組みのマージンは、教師モデルが推定する正例と負例ペア間の距離差の線形関数として定義される：$ \mathcal{F}(d) = \frac{m_{\text{max}} - m_{\text{min}}}{d_{\text{max}}} d + m_{\text{min}} $。
• 学生モデルはまずArcFace損失を用いて事前学習され、その後、提案された三重損失蒸留損失を用いて微調整される。
• 損失関数は、学生モデルの特徴距離と教師モデルの類似度知識を組み合わせ、クラス内コンパクト性とクラス間分離性の両方を強化する。
• 動的マージンにより、教師モデルが推定する距離が大きい（より難しい）識別ペアに対してはより大きなマージンが与えられ、一般化性能が向上する。

実験結果

リサーチクエスチョン

• RQ1 教師モデルからの類似度知識を転送することで、知識蒸留を効果的に応用し、顔認識における三重損失の性能向上を達成できるか？
• RQ2 教師モデルの距離に基づくデータ依存の動的マージンを用いることで、固定マージンの三重損失に比べ、軽量モデルでより高い性能が得られるか？
• RQ3 学生モデルが教師モデルの識別間類似度構造を学習することで、標準ベンチマークでより高い精度を達成できるか？
• RQ4 固定マージンの三重損失と比較して、提案手法の三重損失蒸留は、多様なデータセットにおける検証精度の観点でどのように差をつけるか？

主な発見

• 三重損失蒸留で微調整された学生モデルは、LFWで99.27%の精度を達成し、最良の固定マージン三重損失（マージン0.4の99.23%）を上回った。
• CPLFWでは81.28%の精度を達成し、最良の固定マージン三重損失（マージン0.3の80.80%）よりも2.75%の向上を達成した。
• AgeDB-30では94.37%の精度を達成し、最良の固定マージン三重損失（マージン0.3の94.08%）よりも0.84%の向上を達成した。
• すべての3つのベンチマークで一貫した性能向上が確認され、教師モデルの知識から導かれる動的マージンの有効性が示された。
• 最初にArcFaceで78.53%の精度を達成した学生モデルは、三重損失蒸留により81.28%まで向上し、強力な微調整能力を示した。
• 教師モデルから類似度構造の知識を効果的に転送でき、学生ネットワークにおけるより良い意思決定境界の学習が可能になった。