[論文レビュー] NPCFace: A Negative-Positive Cooperation Supervision for Training Large-scale Face Recognition.

Dan Zeng, Hailin Shi+4 more|arXiv (Cornell University)|Jul 20, 2020

Face recognition and analysis参考文献 31被引用数 9

ひとこと要約

NPCFaceは、顔認識学習におけるポジティブマージンとネガティブマージンの協調性を明示的にモデル化する新しい損失関数を提案する。これにより、特に低偽受容率（FAR）領域におけるハードサンプルの性能が向上する。サンプル単位の協調的メカニズムにより、クラス内（ポジティブ）およびクラス間（ネガティブ）のハードケースのマージンを同時に最適化することで、大規模ベンチマークにおいて最先端の精度を達成する。

ABSTRACT

Deep face recognition has made remarkable advances in the last few years, while the training scheme still remains challenging in the large-scale data situation where many hard cases occur. Especially in the range of low false accept rate (FAR), there are various hard cases in both positives ($ extit{i.e.}$ intra-class) and negatives ($ extit{i.e.}$ inter-class). In this paper, we study how to make better use of these hard samples for improving the training. The existing training methods deal with the challenge by adding margins in either the positive logit (such as SphereFace, CosFace, ArcFace) or the negative logit (such as MV-softmax, ArcNegFace, CurricularFace). However, the correlation between hard positive and hard negative is overlooked, as well as the relation between the margin in positive logit and the margin in negative logit. We find such correlation is significant, especially in the large-scale dataset, and one can take advantage from it to boost the training via relating the positive and negative margins for each training sample. To this end, we propose an explicit cooperation between positive and negative margins sample-wisely. Given a batch of hard samples, a novel Negative-Positive Cooperation loss, named NPCFace, is formulated, which emphasizes the training on both the negative and positive hard cases via a cooperative-margin mechanism in the softmax logits, and also brings better interpretation of negative-positive hardness correlation. Besides, the negative emphasis is implemented with an improved formulation to achieve stable convergence and flexible parameter setting.We validate the effectiveness of our approach on various benchmarks of large-scale face recognition and outperform the previous methods especially in the low FAR range.

研究の動機と目的

• 大量のハードポジティブおよびネガティブサンプルを含む大規模データセット上で、深層顔認識モデルを訓練する課題に対処すること。
• 従来の手法がポジティブおよびネガティブマージンを独立して扱い、それらの相関関係を無視しているという制限を克服すること。
• ハードケースが最も重要となる低偽受容率（FAR）範囲におけるモデルの一般化性およびロバスト性を向上させること。
• ハードポジティブおよびハードネガティブサンプルの間の相互作用を明示的にモデル化し、最適化を改善するための訓練手法を開発すること。

提案手法

• クラス内（ポジティブ）およびクラス間（ネガティブ）のハードサンプルのマージンを同時に最適化する、サンプル単位のネガティブ-ポジティブ協調（NPCFace）損失を提案する。
• ソフトマックスのログイットに協調的マージン機構を導入し、対応するネガティブサンプルの難易度に応じてポジティブサンプルのマージンを動的に調整する。
• 訓練の安定性を高め、ハイパーパramータの柔軟な調整を可能にする、改善されたネガティブ強調形式を採用する。
• ハードサンプルを特定し、協調的マージン学習の優先順位を付けるバッチベースの訓練戦略を採用する。
• ポジティブおよびネガティブペアの難易度を関連付けるマージン適応ルールを適用し、識別性の高い特徴抽出を強化する。
• アーキテクチャの変更なしに標準的な顔認識フレームワークにNPCFace損失を統合し、プラグアンドプレイでの導入を可能にする。

実験結果

リサーチクエスチョン

• RQ1 大規模な設定におけるハードポジティブおよびハードネガティブサンプルの相関関係は、顔認識性能にどのように影響するか？
• RQ2 ポジティブおよびネガティブサンプルのマージンを同時に最適化することで、特に低FAR領域における一般化性能が向上するか？
• RQ3 ポジティブおよびネガティブマージンの協調性を明示的にモデル化することは、訓練の安定性および収束性にどのような影響を与えるか？
• RQ4 提案された協調的マージン機構は、従来の手法における独立したマージン戦略と比較して、どのように優れているか？

主な発見

• NPCFaceは、特に低偽受容率（FAR）範囲において、大規模顔認識ベンチマークで最先端の性能を達成する。
• 協調的マージン学習を通じて、ハードポジティブおよびハードネガティブサンプルの相関関係を活用することで、精度が顕著に向上する。
• 改善されたネガティブ強調形式により、訓練の安定性が向上し、ハイパーパramータの制御が柔軟になる。
• 協調的マージン機構により、特徴の識別性が向上し、クラス間分離が明確になり、クラス内コンパクト性が高まっていることが実証されている。
• 低FAR評価設定下で、ArcFace、CurricularFace、ArcNegFaceといった先行研究を上回る性能を、複数の大規模データセットで示している。