[論文レビュー] NPT-Loss: A Metric Loss with Implicit Mining for Face Recognition

Syed Safwan Khalid, Muhammad Awais+5 more|arXiv (Cornell University)|Mar 5, 2021

Face recognition and analysis参考文献 36被引用数 7

ひとこと要約

本稿では、代理ベースの三重損失フレームワークを通じて、暗黙的ハードネガティブマイニングを実行する、顔認識のための新しいメトリクス損失であるNPT-Lossを提案する。理論的に最小クラス間分離性を強制することが保証されており、最小限のハイパーパrameterチューニングで、高解像度および低解像度のベンチマークにおいて最先端の性能を達成し、明示的なマイニングや複雑な最適化を必要とせずに、マージンベースのソフトマックス損失を上回る。

ABSTRACT

Face recognition (FR) using deep convolutional neural networks (DCNNs) has seen remarkable success in recent years. One key ingredient of DCNN-based FR is the appropriate design of a loss function that ensures discrimination between various identities. The state-of-the-art (SOTA) solutions utilise normalised Softmax loss with additive and/or multiplicative margins. Despite being popular, these Softmax+margin based losses are not theoretically motivated and the effectiveness of a margin is justified only intuitively. In this work, we utilise an alternative framework that offers a more direct mechanism of achieving discrimination among the features of various identities. We propose a novel loss that is equivalent to a triplet loss with proxies and an implicit mechanism of hard-negative mining. We give theoretical justification that minimising the proposed loss ensures a minimum separability between all identities. The proposed loss is simple to implement and does not require heavy hyper-parameter tuning as in the SOTA solutions. We give empirical evidence that despite its simplicity, the proposed loss consistently achieves SOTA performance in various benchmarks for both high-resolution and low-resolution FR tasks.

研究の動機と目的

• 顔認識における既存のマージンベースのソフトマックス損失に理論的裏付けが欠けている問題に対処すること。
• 理論的に整合性のある方法で、アイデンティティ間の最小クラス間分離性を保証する損失関数を開発すること。
• 明示的なハードネガティブマイニングの必要性を排除し、広範なハイパーパrameterチューニングへの依存を低減すること。
• 多様な顔認識ベンチマークで一貫して最先端の手法を上回る、シンプルだが効果的なメトリクス損失を設計すること。

提案手法

• 提案されたNPT-Lossは、埋め込み空間における各アイデンティティを1つのプロキシ（重心）で表す代理ベースの三重損失として定式化される。
• 損失関数は、アーキテクチャ、ポジティブ、プロキシ特徴間の相対的距離に基づいて動的にマージンを調整することで、暗黙的にハードネガティブをマイニングする。
• アーキテクチャとポジティブサンプル間の最小角マージンを、プロキシへのコサイン距離を最小化し、ネガティブサンプルへのマージンを最大化することで強制する。
• 最小クラス間分離性を保証する理論的枠組みから導出された損失であり、アイデンティティ間の強固な識別性を保証する。
• プロキシベースの三重構造の内在的な幾何学的性質に依存することで、明示的マイニングを回避し、トレーニングを簡素化し、計算オーバーヘッドを低減する。
• 実装が簡単で、SOTAのマージンベース手法とは異なり、複雑なハイパーパrameterチューニングを必要としない。

実験結果

リサーチクエスチョン

• RQ1 顔認識において、最小クラス間分離性の理論的保証を持つメトリクス損失を設計できるか？
• RQ2 プロキシベースの三重損失による暗黙的ハードネガティブマイニングは、明示的マイニングやマージンベースのソフトマックス損失を上回るか？
• RQ3 広範なハイパーパrameterチューニングや複雑な最適化手順を必要としないシンプルな損失関数が、最先端の性能を達成できるか？
• RQ4 提案された損失は、高解像度および低解像度の顔認識ベンチマークに一般化できるか？

主な発見

• NPT-Lossは、高解像度および低解像度の顔認識ベンチマークで、既存のマージンベースのソフトマックス損失を上回る最先端の性能を達成した。
• MS-Celeb-1M、VGGFace2、CASIA-WebFaceなど複数のデータセットで一貫した改善が確認され、タスク固有のハイパーパrameter調整を必要としなかった。
• 理論的分析により、NPT-Lossの最小化がアイデンティティ間の最小角マージンを保証することが確認され、識別性の強固な基盤が得られた。
• 実験的結果から、暗黙的マイニング機構が、明示的なサンプリングや追加のトレーニング段階を必要とせずに、効果的にハードサンプルを捉えていることが示された。
• 損失関数は頑健で汎用性が高く、SOTA手法が複雑なマージン設定に依存するのとは異なり、最小限のチューニングで強力な性能を発揮した。
• 手法のシンプルさにより、効率的なトレーニングとデプロイメントが可能となり、実世界の応用に適している。