[論文レビュー] Web-Scale Training for Face Identification

Yaniv Taigman, Ming Yang+2 more|arXiv (Cornell University)|Jun 20, 2014

Face recognition and analysis参考文献 22被引用数 13

ひとこと要約

本論文では、大規模データセットにおける性能飽和を軽減するために、ランダムサブサンプリングの代わりにブートストラップに基づくトレーニング戦略を提案する。ウェブ規模のデータを活用し、表現ノルムを最適化することで、LFW認証および1:N識別ベンチマークの両方で最先端の結果を達成し、1,000人分のギャラリーにおいて66.5%のランク-1精度を達成するなど、初めて商業システムを直接上回った。

ABSTRACT

Scaling machine learning methods to very large datasets has attracted considerable attention in recent years, thanks to easy access to ubiquitous sensing and data from the web. We study face recognition and show that three distinct properties have surprising effects on the transferability of deep convolutional networks (CNN): (1) The bottleneck of the network serves as an important transfer learning regularizer, and (2) in contrast to the common wisdom, performance saturation may exist in CNN's (as the number of training samples grows); we propose a solution for alleviating this by replacing the naive random subsampling of the training set with a bootstrapping process. Moreover, (3) we find a link between the representation norm and the ability to discriminate in a target domain, which sheds lights on how such networks represent faces. Based on these discoveries, we are able to improve face recognition accuracy on the widely used LFW benchmark, both in the verification (1:1) and identification (1:N) protocols, and directly compare, for the first time, with the state of the art Commercially-Off-The-Shelf system and show a sizable leap in performance.

研究の動機と目的

• 現在のスケールを超えてトレーニングデータサイズが増加する際の深層顔認識における性能飽和の問題に対処すること。
• ネットワークボトルネックの役割を再考することで、転移学習の一般化性能を向上させること。
• 学術的モデルと商業的市販品（COTS）システムの間で、実世界の1:N識別ベンチマーク上で直接比較可能になるようにすること。
• 顔埋め込みにおける表現ノルム、画像品質、分類信頼度の間の関係を調査すること。
• 効率的で非一様なサンプリング戦略を用いて、深層顔認識を数十億枚の画像にスケーリングすること。

提案手法

• トレーニング中に分類が難しいサンプルを優先するブートストラップ手順に、標準的なランダムサブサンプリングを置き換える。
• 転移学習における特定性と一般化のバランスを取るために、深層ネットワークのボトルネック層を正則化子として活用する。
• 低偽陽性率（FAR）下での識別性能を向上させるために、1024以上の次元を持つ表現層を最適化する。
• 表現ノルムを測定し、リtrieval成功度および分類信頼度と相関関係を分析する。
• 1億枚を超える画像と数百万の個人を含むウェブ規模のデータセットを用い、DeepFaceアーキテクチャの変更版でトレーニングを行う。
• 1%および0.1%のFARにおけるランク-1精度とDIR（False Acceptance Rate）を評価指標として用い、内部の10,000人分の検証セットでモデル選択を実施する。

実験結果

リサーチクエスチョン

• RQ1 トレーニングデータサイズが増加する際、深層顔認識に性能飽和が生じるか。その場合、どのように緩和できるか？
• RQ2 深層畳み込みニューラルネットワークにおけるボトルネック層が、顔認識の転移学習において正則化子としてどのように機能するか？
• RQ3 顔埋め込みにおける表現ノルム、画像品質、分類信頼度の間にはどのような関係があるか？
• RQ4 ブートストラップに基づくサンプリング戦略は、ランダムサブサンプリングに比べて1:N顔識別性能を向上させることができるか？
• RQ5 本手法は、実世界の1:N識別ベンチマークにおいて、商業的市販品システムと比較してどのように評価されるか？

主な発見

• 提案手法のブートストラップ法により、1:N LFWベンチマークで82.5%のランク-1精度を達成し、COTSシステムの56.7%を大きく上回った。
• 1024以上の表現層の最適化により、0.1% FARにおけるDIRが46.97%に向上し、4096Dベースラインの37.79%から顕著な向上を示した。
• 表現ノルムとリtrieval成功度の間に強い負の相関（ρ = -0.251）が確認され、ノルムが低いほど識別性能が向上することが示された。
• 圧縮された256D表現は、4096Dの初期表現よりも一般化性能が高く、ランク-1精度70.60%を達成した。
• 本手法により、学術的モデルとCOTSシステムの間で、1:N識別ベンチマーク上で初めて直接比較が可能となり、商業システムを大きく上回る性能の飛躍が明らかになった。
• あるデータスケールを超えると性能飽和が観察され、ブートストラップ法により困難なサンプルに焦点を当てることで、この問題が効果的に緩和された。