[論文レビュー] Ring loss: Convex Feature Normalization for Face Recognition

Yutong Zheng, Dipan K. Pal+1 more|arXiv (Cornell University)|Feb 28, 2018

Face recognition and analysis参考文献 23被引用数 10

ひとこと要約

この論文は、深層ネットワークの特徴を学習されたノルムで単位超球上に制約する凸的で微分可能な特徴正規化手法であるRing lossを導入する。これにより顔認識のロバスト性が向上し、IJB-A JanusおよびJanus CS3で最先端の性能を達成。100万個の誤検出者を含むMegaFaceではSOTAを達成。低解像度顔認識においても、学習中に一貫した特徴ノルムを維持することで性能向上を実現する。

ABSTRACT

We motivate and present Ring loss, a simple and elegant feature normalization approach for deep networks designed to augment standard loss functions such as Softmax. We argue that deep feature normalization is an important aspect of supervised classification problems where we require the model to represent each class in a multi-class problem equally well. The direct approach to feature normalization through the hard normalization operation results in a non-convex formulation. Instead, Ring loss applies soft normalization, where it gradually learns to constrain the norm to the scaled unit circle while preserving convexity leading to more robust features. We apply Ring loss to large-scale face recognition problems and present results on LFW, the challenging protocols of IJB-A Janus, Janus CS3 (a superset of IJB-A Janus), Celebrity Frontal-Profile (CFP) and MegaFace with 1 million distractors. Ring loss outperforms strong baselines, matches state-of-the-art performance on IJB-A Janus and outperforms all other results on the challenging Janus CS3 thereby achieving state-of-the-art. We also outperform strong baselines in handling extremely low resolution face matching.

研究の動機と目的

• 深層顔認識における特徴正規化の原則的根拠の欠如に対処すること。
• 既存手法におけるハード正規化の非凸性が引き起こす最適化の不安定性と局所最適解の問題を克服すること。
• 凸的で微分可能な正規化アプローチを開発し、ネットワークが学習中に最適な特徴ノルムを学習可能にする。
• 推論時に使用されるコサイン類似度マッチングと整合するように、特徴正規化を訓練プロトコルと統一することで、訓練と推論のギャップを埋めること。
• 顔認識タスクにおける解像度低下やアングル変化に対するロバスト性を向上させること。

提案手法

• Ring lossは、訓練中に特徴ノルムを目標値Rに徐々に制約する凸的ノルム制約を導入し、非凸なハード正規化を回避する。
• 1つのハイパーパrameter（損失重みλ）を除き、主な分類損失（例：Softmax）と同時に最適化可能な微分可能なソフト正規化損失として定式化される。
• l2ノルム制約の凸的緩和を用いることで、最適化の安定性が保証され、非凸な定式化に起因する局所最適解を回避する。
• 目標ノルムRは訓練中に内生的に学習され、ネットワークが最適な特徴大きさを自己適応的に決定可能となる。
• 勾配ベース最適化を用いて深層ネットワークにスムーズに統合可能で、標準的なバックプロパゲーションと併用可能である。
• 特徴空間におけるコサイン類似度の促進が暗黙的に行われ、訓練段階と推論時に使用されるコサイン距離尺度と整合する。

実験結果

リサーチクエスチョン

• RQ1 非凸な代替手法と比較して、凸的で微分可能な正規化手法は深層顔認識性能を向上させ得るか？
• RQ2 訓練中に共有された最適な特徴ノルムを学習することで、解像度低下やアングル変化に対するロバスト性が向上するか？
• RQ3 特徴正規化は、顔認識における訓練と推論プロトコルの乖離を低減できるか？
• RQ4 l2制約付きSoftmaxやセンター損失といった既存の正規化技術と比較して、極めて低解像度環境下でRing lossはどのように性能を示すか？
• RQ5 Ring lossの凸性は、多様なベンチマークにおいてより安定的かつ汎用性の高い特徴表現をもたらすか？

主な発見

• Ring lossは、IJB-A Janus 1:1検証プロトコルで、SphereFace や l2制約付き Softmax を含むすべての先行手法を上回り、SOTA性能を達成した。
• より困難なJanus CS3プロトコルでは、10^-3 FARにおける検証率が90.99%に達し、すべてのベースラインを上回り、新たなSOTAを樹立した。
• 100万個の誤検出者を含むMegaFaceベンチマークでは、強力なベースラインを上回り、SOTA性能を達成した。
• 低解像度実験では、64倍のダウンサンプリングでもRing lossは性能を維持したが、l2制約付き Softmax は性能が低下し、標準的な Softmax よりも劣った。
• CFP フロントアルファイン対プロファイルデータセットでは、10^-3 FARにおける検証精度が87.43%に向上し、Softmax（55.86%）とl2制約付き Softmax（83.69%）を大きく上回った。
• λの値が広い範囲にわたり一貫した向上を示しており、ハイパーパramータのチューニングに対して頑健であることが示された。