[論文レビュー] Git Loss for Deep Face Recognition

Alessandro Calefati, Muhammad Kamran Janjua+2 more|arXiv (Cornell University)|Jul 23, 2018

Face recognition and analysis参考文献 24被引用数 10

ひとこと要約

本論文は、深層顔認識のための新しい共同監視損失関数であるGit lossを提案する。この損失関数は、ソフトマックス損失とセンター損失を統合し、クラス内ばらつきを最小化し、クラス間距離を最大化する。Gitの'push'と'pull'コマンドの意味的類似性を活用することで、特徴の識別性を向上させ、わずかに ≈300万枚のトレーニング画像でLFWで99.30%、YTFで95.30%の最先端性能を達成した。

ABSTRACT

Convolutional Neural Networks (CNNs) have been widely used in computer vision tasks, such as face recognition and verification, and have achieved state-of-the-art results due to their ability to capture discriminative deep features. Conventionally, CNNs have been trained with softmax as supervision signal to penalize the classification loss. In order to further enhance the discriminative capability of deep features, we introduce a joint supervision signal, Git loss, which leverages on softmax and center loss functions. The aim of our loss function is to minimize the intra-class variations as well as maximize the inter-class distances. Such minimization and maximization of deep features are considered ideal for face recognition task. We perform experiments on two popular face recognition benchmarks datasets and show that our proposed loss function achieves maximum separability between deep face features of different identities and achieves state-of-the-art accuracy on two major face recognition benchmark datasets: Labeled Faces in the Wild (LFW) and YouTube Faces (YTF). However, it should be noted that the major objective of Git loss is to achieve maximum separability between deep features of divergent identities.

研究の動機と目的

• より良い認識性能を実現するため、深層顔特徴の識別力を向上させること。
• 標準的なソフトマックス損失の限界、すなわち分類誤差のみにペナルティを課すが、特徴の凝縮性や分離性を制御しない点を是正すること。
• ソフトマックス損失とセンター損失の長所を統合した、統一的かつエンドツーエンドで学習可能な損失関数を構築すること。
• 同一アイデンティティ間の特徴分離性を最大限に高めつつ、クラス内凝縮性を維持すること。
• 従来の最先端手法よりも少ないトレーニング画像で、標準ベンチマークにおける一般化性能と有効性を示すこと。

提案手法

• Git lossは、ソフトマックス交差エントロピー損失とセンター損失を統合し、分類と特徴クラスタリングを同時に最適化する。
• 損失関数は、特徴とそのクラス中心との距離（クラス内凝縮性）を最小化するとともに、クラス中心間の距離（クラス間分離性）を最大化する。
• クラス内とクラス間の最適化のトレードオフを調整するためのハイパーパrameter λC を使用する。
• Inception-ResNet-V1 などの標準的なCNNアーキテクチャと互換性があり、SGDを用いたエンドツーエンドで学習可能である。
• 名前「Git loss」は、クラスを分離する「push」と同じクラスの特徴をグループ化する「pull」というGitコマンドに由来する。
• 高次元空間におけるグリッドサーチの計算負荷を回避するため、ハイパーパrameterのチューニングに体系的なヒューリスティックサーチを用いる。

実験結果

リサーチクエスチョン

• RQ1 ソフトマックス損失とセンター損失を統合した共同損失関数は、個別損失を上回る深層顔特徴の識別性を向上させることができるか？
• RQ2 FaceNet や ArcFace といった最先端手法と比較して、Git loss は正確性および一般化性能においてどのように差をつけるか？
• RQ3 Git loss は、学習された特徴空間において、クラス内ばらつきをどれほど低減し、クラス間距離をどれほど増加させるか？
• RQ4 Git loss は、従来の手法よりも少ないトレーニング画像で最先端性能を達成できるか？
• RQ5 特に λC に関して、Git loss はハイパーパrameterの設定にどれほど敏感か？

主な発見

• Labeled Faces in the Wild (LFW) ベンチマークにおいて、Git loss は99.30%の正確性を達成し、同じアーキテクチャとデータセット下で標準的なソフトマックス損失（98.40%）とセンター損失（99.20%）を上回った。
• YouTube Faces (YTF) データセットでは、Git loss が95.30%の正確性を達成し、同様のトレーニング条件下でソフトマックス（93.60%）とセンター損失（95.10%）を上回った。
• MNIST 上での定性的および定量的比較により、提案された損失関数は、センター損失単体よりもクラス内距離を小さくし、クラス間距離を大きくする効果が顕著に示された。
• Git loss は、FaceNet（2億枚）やFusion（5億枚）といった手法よりもはるかに少ない約300万枚のトレーニング画像で最先端性能を達成した。
• ハイパーパrameter分析の結果、λC の値が小さいほどクラス間距離は増加するが、同時にクラス内分散も上昇するため、トレードオフが生じる。Git loss はこのトレードオフを効果的にバランスさせていることが示された。
• 複数のベンチマークおよびトレーニングプロトコル（オープンセット評価を含む）での検証により、本手法は頑健で一般化性能に優れていることが確認された。