[論文レビュー] A Light CNN for Deep Face Representation with Noisy Labels

Xiang Wu, Ran He+2 more|arXiv (Cornell University)|Nov 9, 2015

Face recognition and analysis参考文献 61被引用数 151

ひとこと要約

本稿では、ノイズの多いラベルを含む大規模な顔データセットからコン act で頑健な顔表現を学習するための Light CNNフレームワークとMax-Feature-Map（MFM）活性化関数を提案する。MFMを用いた特徴選択、AlexNet、VGG、ResNetをインspireした軽量アーキテクチャの設計、およびノイズラベルを手動アノテーションに依存せずにクリーニングするための意味的ブートストラップ法を統合することで、単一コアで12.6Mパラメータ、121msの推論時間で、複数の顔認識ベンチマークで最先端の性能を達成した。

ABSTRACT

The volume of convolutional neural network (CNN) models proposed for face recognition has been continuously growing larger to better fit large amount of training data. When training data are obtained from internet, the labels are likely to be ambiguous and inaccurate. This paper presents a Light CNN framework to learn a compact embedding on the large-scale face data with massive noisy labels. First, we introduce a variation of maxout activation, called Max-Feature-Map (MFM), into each convolutional layer of CNN. Different from maxout activation that uses many feature maps to linearly approximate an arbitrary convex activation function, MFM does so via a competitive relationship. MFM can not only separate noisy and informative signals but also play the role of feature selection between two feature maps. Second, three networks are carefully designed to obtain better performance meanwhile reducing the number of parameters and computational costs. Lastly, a semantic bootstrapping method is proposed to make the prediction of the networks more consistent with noisy labels. Experimental results show that the proposed framework can utilize large-scale noisy data to learn a Light model that is efficient in computational costs and storage spaces. The learned single network with a 256-D representation achieves state-of-the-art results on various face benchmarks without fine-tuning. The code is released on https://github.com/AlfredXiangWu/LightCNN.

研究の動機と目的

• 大規模なノイズラベルを含むデータセット上で深層顔表現を学習する課題に対処すること。
• 顔認識の高い性能を維持しつつ、モデルの複雑さと計算コストを低減すること。
• 手動アノテーションに依存せずに、大規模な顔データセットのノイズラベルを効果的にクリーニングする手法を開発すること。
• パラメータ数が少なく、高速な推論を実現する軽量CNNアーキテクチャを設計すること。

提案手法

• ReLUの代替として、競争的なmaxoutの変種であるMax-Feature-Map（MFM）を導入し、低活性化ニューロンの抑制によって特徴選択を可能にする。
• AlexNet、VGG、ResNetのアーキテクチャをインspireした3種類の軽量CNN変種（Light CNN-9、-18、-29）を設計し、小口径の畳み込みフィルタとNetwork-in-Networkモジュールを用いる。
• 事前に訓練されたモデルの予測信頼度に基づいて、サンプルを再ラベルする意味的ブートストラップ法を採用し、閾値を用いて信頼性の高い予測をフィルタリングする。
• 2段階のブートストラッププロセスを採用：まず、一貫した予測を持つ高信頼度サンプルを再ラベルし、次に低い閾値で再サンプリングすることで、クリーニング済みのトレーニングセットを拡張する。
• 2段階のトレーニングプロセスを実施：最初の段階では、特徴抽出器を固定した上で最終全結合層のみを学習し、2番目の段階では学習率を段階的に低下させながら、ネットワーク全体をファインチューニングする。
• 閾値ベースの選択戦略を適用し、モデルの予測が正解ラベルと一致し、かつ信頼度が閾値（第1段階：p₀ = 0.7、第2段階：p₁ = 0.7）を超える場合にのみサンプルを保持する。

実験結果

リサーチクエスチョン

• RQ1 MFM活性化関数を用いたコンパクトなCNNは、モデルサイズと推論コストを最小限に抑えつつ、最先端の顔認識性能を達成できるか？
• RQ2 ReLUや標準的なmaxoutと比較して、MFMはノイズから情報を的確に分離する能力において効果的か？
• RQ3 意味的ブートストラップ法は、手動再ラベルなしにノイズラベルを含む大規模データセットでのモデル精度を向上させられるか？
• RQ4 トレーニングデータの繰り返し再ラベルが、下流の顔認識ベンチマークでの性能向上にどの程度寄与するか？

主な発見

• 256次元表現を用いた Light CNN-29 モデルは、微調整なしで5つの主要な顔認識ベンチマークで最先端の性能を達成した。
• LFWでは99.2%、YTCでは98.6%、CALTECHでは97.8%、CFPでは95.1%、MS-Celeb-1Mでは94.3%の精度を達成し、すべてのデータセットで先行手法を上回った。
• 最終モデルはたった12,637Kパラメータであり、単一コアのi7-4790 CPU上で1枚の顔を約121msで処理でき、リアルタイムシステムに非常に効率的である。
• 意味的ブートストラップ法により、MS-Celeb-1Mのアイデンティティ数は99,891からMS-1M-2Rでは79,077に減少し、各クリーニングステップで性能向上が観察された。
• 2段階のブートストラップにおいても0.7の閾値が最良の性能をもたらし、ラベルの信頼性とデータカバレッジの最適なバランスを示した。
• クリーニング済みのMS-1M-2Rデータセットで学習したモデルは、元のCASIA-WebFaceデータセットで学習したモデルよりもROCおよびAUC指標で優れた性能を示した。