[論文レビュー] Additive Margin Softmax for Face Verification

Wang Feng, Weiyang Liu+2 more|arXiv (Cornell University)|Jan 17, 2018

Face recognition and analysis被引用数 14

ひとこと要約

本論文は、特徴ベクトルと重みベクトル間の角度のコサイン値からスカラーマージン $ m $ を差し引くことで、大きな角マージンを強制する、深層顔認識のための新しい損失関数であるAdditive Margin Softmax (AM-Softmax)を提案する。特徴ベクトルと重みベクトルの正規化を組み合わせたアプローチにより、AM-Softmaxは、同一の訓練およびネットワーク条件下で、A-Softmaxなどの先行手法を上回る、LFWおよびMegaFaceベンチマークにおける最先端の性能を達成する。

ABSTRACT

In this paper, we propose a conceptually simple and geometrically interpretable objective function, i.e. additive margin Softmax (AM-Softmax), for deep face verification. In general, the face verification task can be viewed as a metric learning problem, so learning large-margin face features whose intra-class variation is small and inter-class difference is large is of great importance in order to achieve good performance. Recently, Large-margin Softmax and Angular Softmax have been proposed to incorporate the angular margin in a multiplicative manner. In this work, we introduce a novel additive angular margin for the Softmax loss, which is intuitively appealing and more interpretable than the existing works. We also emphasize and discuss the importance of feature normalization in the paper. Most importantly, our experiments on LFW BLUFR and MegaFace show that our additive margin softmax loss consistently performs better than the current state-of-the-art methods using the same network architecture and training dataset. Our code has also been made available at https://github.com/happynear/AMSoftmax

研究の動機と目的

• 深層顔認識のためのより解釈可能で効果的な大マージン損失関数を開発すること。
• 乗法的または複雑な角マージン形式を用いる既存のマージンベース損失関数の限界を解消すること。
• 幾何的に直感的な加法的マージン戦略を用いて、クラス内コンパクト性の向上とクラス間分離性の強化を図ること。
• 同じネットワークおよび訓練データを用いて、最先端の手法と比較して一貫した性能向上を示すこと。
• 特にMegaFaceのような低品質データセットにおいて、特徴正規化の重要性が強化されることを強調すること。

提案手法

• 損失関数に直接適用される、$ \cos\theta - m $ で定義される新しいマージン戦略を提案する。ここで $ m $ は学習可能なスカラーマージンである。
• 角マージンが幾何的に一貫した方法で適用されるように、特徴ベクトルと重みベクトルの正規化を実装する。
• ロジットの大きさを制御する固定スケール $ s = 30 $ を用い、マージン $ m $ を主なハイパーパrameterとする。
• CASIA-WebFaceデータセット上で、画像のミラー画像によるデータオーグメンテーションを伴い、20層のResNetベースの顔認識モデルをエンドツーエンドで訓練する際、この損失関数を適用する。
• 推論にはコサイン類似度を用い、元画像とミラー画像の特徴量の平均化を実施して、耐性を向上させる。
• LFWおよびMegaFaceの訓練データとテストデータの重複を除去することで、フェアなオープンセット評価を実現する。

実験結果

リサーチクエスチョン

• RQ1 ソフトマックス損失におけるより単純な加法的マージン戦略が、既存の乗法的マージンアプローチを上回る顔認識性能を達成できるか？
• RQ2 特徴正規化は、特に低品質データセットにおいて、マージンベース損失関数の一般化性能と耐性にどのように影響を与えるか？
• RQ3 加法的マージン $ m $ の最適値は何か？ また、その値がオープンセットベンチマークでの性能に与える影響は？
• RQ4 同じ条件で訓練された既存手法と比較して、提案されたAM-Softmax損失が最先端の性能を達成できるか？
• RQ5 複雑な区分的角マージン関数と比較して、加法的マージン戦略はより解釈可能で効果的であると言えるか？

主な発見

• AM-Softmaxは、LFW BLUFRプロトコルで99.38%の精度を達成し、同じ訓練およびネットワーク設定下で、以前の最先端手法を上回った。
• MegaFace Set 1では、データセットの重複を除去した後、72.47%のRank-1精度と84.44%の認証率を達成し、オープンセット評価においても耐性があることを示した。
• 最適なマージン値は $ m = 0.35 $ であると判明し、$ m $ が0.4を超えると性能が低下した。
• 特徴正規化はMegaFaceでの性能向上に顕著に寄与したが、高品質なLFWでは非正規化特徴量の方が優れた結果を示した。
• CMCおよびROC曲線の両方で、AM-SoftmaxはA-Softmax、Center Loss、NormFaceを上回った。特に低ランクおよび偽陽性率が低い範囲で顕著な向上が見られた。
• アブレーションスタディの結果、実際の応用において、乗法的または複雑な角マージン形式よりも加法的マージン戦略がより効果的であることが確認された。