[論文レビュー] von Mises-Fisher Mixture Model-based Deep learning: Application to Face Verification

Md. Abul Hasnat, Julien Bohné+3 more|arXiv (Cornell University)|Jun 13, 2017

Face recognition and analysis参考文献 68被引用数 61

ひとこと要約

本論文は、方向性 CNN 特徴の学習のための vMF mixture model-based loss (vMFML) を提案し、いくつかの face verification ベンチマークで最先端の結果を達成している。

ABSTRACT

A number of pattern recognition tasks, extit{e.g.}, face verification, can be boiled down to classification or clustering of unit length directional feature vectors whose distance can be simply computed by their angle. In this paper, we propose the von Mises-Fisher (vMF) mixture model as the theoretical foundation for an effective deep-learning of such directional features and derive a novel vMF Mixture Loss and its corresponding vMF deep features. The proposed vMF feature learning achieves the characteristics of discriminative learning, extit{i.e.}, compacting the instances of the same class while increasing the distance of instances from different classes. Moreover, it subsumes a number of popular loss functions as well as an effective method in deep learning, namely normalization. We conduct extensive experiments on face verification using 4 different challenging face datasets, extit{i.e.}, LFW, YouTube faces, CACD and IJB-A. Results show the effectiveness and excellent generalization ability of the proposed approach as it achieves state-of-the-art results on the LFW, YouTube faces and CACD datasets and competitive results on the IJB-A dataset.

研究の動機と目的

• von Mises-Fisher mixture model を用いた方向性深層特徴の学習に対する理論的基盤を提供する。
• vMF Mixture Loss (vMFML) を開発し、ディスクリミナティブな特徴学習のために CNNs と統合する。
• 多様な face verification データセット（LFW、YTF、CACD、IJB-A）に対して強い一般化を示す。
• vMFML と既存の損失関数および正規化手法との関係を示す。

提案手法

• facial features を equal class privilege を持つ von Mises-Fisher 分布の mixture (vMFMM) としてモデル化する。
• softmax を vMF ベースの後方確率とクロスエントロピー目的関数で置換して vMF Mixture Loss (vMFML) を導出する。
• class centers を平均方向 mu（mu）と濃度 kappa で表し、特徴を単位長に正規化する。
• vMFML を用いたエンドツーエンドの CNN トレーニングのための勾配とバックプロパゲーション規則を提供する。
• ResNet ベースの CNN（Res-27）を用いて 512 次元の方向性特徴を抽出し、単位ノルム正規化を適用する。
• vMFML と人気のある損失（softmax の派生、center loss、angular/large margins）および正規化スキームとの理論的な結びつきを論じる。

実験結果

リサーチクエスチョン

• RQ1 vMF Mixture Loss (vMFML) は、同一クラスの特徴を mu 周りに凝集させつつ、超球面上でクラスを分離することにより識別的な学習を可能にするのか。
• RQ2 vMFML は face recognition に用いられる他の損失関数（例：softmax の派生、center loss、angular margin loss など）をどのように包摂・関連づけるのか。
• RQ3 vMFML を学習した CNN の標準的な face verification ベンチマーク（LFW、YouTube Faces、CACD、IJB-A）での性能はどうか。
• RQ4 提案手法は pose、照明、年齢変動を含むデータセット間で一般化可能か。

主な発見

• vMFML は mu 周りに同一クラスの特徴を集約しつつ、kappa を制御可能にしてクラスを単位球上で分離することで識別的な特徴学習を実現する。
• 本手法は LFW、YouTube Faces、CACD データセットで最先端の結果を達成する。
• IJB-A では本手法が競争力のある性能を発揮する（ TAR@FAR=0.001 = 85% が要約で報告）。
• 単一の CNN モデル（vMFML で学習）だけで済み、複数の損失項や追加のメトリック学習手順を回避できる。
• 正規化を単位ノルム特徴と mu を通じて統合することで、トレーニングが効率的になり、パラメータ（mu および kappa）も解釈可能になる。
• 本研究は vMFML が既存の FR 損失関数および正規化戦略のいくつかを包含または関連づけることを示し、それらを理解するための理論的視点を提供する。