[論文レビュー] ShrinkTeaNet: Million-scale Lightweight Face Recognition via Shrinking Teacher-Student Networks

Chi Nhan Duong, Khoa Luu+2 more|arXiv (Cornell University)|May 25, 2019

Face recognition and analysis参考文献 52被引用数 26

ひとこと要約

ShrinkTeaNetは、重い教師ネットワークから特徴の方向性とサンプル分布の知識を、角度損失を用いて軽量な学生ネットワークに蒸留することで、ミリオンスケールの顔認識用に軽量な学生ネットワークを訓練する画期的な知識蒸留フレームワークを提案する。この手法は、オープンセット設定において、LFWで99.77%、MegaFaceで95.64%の高い精度を達成し、従来手法を著しく上回る。

ABSTRACT

Large-scale face recognition in-the-wild has been recently achieved matured performance in many real work applications. However, such systems are built on GPU platforms and mostly deploy heavy deep network architectures. Given a high-performance heavy network as a teacher, this work presents a simple and elegant teacher-student learning paradigm, namely ShrinkTeaNet, to train a portable student network that has significantly fewer parameters and competitive accuracy against the teacher network. Far apart from prior teacher-student frameworks mainly focusing on accuracy and compression ratios in closed-set problems, our proposed teacher-student network is proved to be more robust against open-set problem, i.e. large-scale face recognition. In addition, this work introduces a novel Angular Distillation Loss for distilling the feature direction and the sample distributions of the teacher's hypersphere to its student. Then ShrinkTeaNet framework can efficiently guide the student's learning process with the teacher's knowledge presented in both intermediate and last stages of the feature embedding. Evaluations on LFW, CFP-FP, AgeDB, IJB-B and IJB-C Janus, and MegaFace with one million distractors have demonstrated the efficiency of the proposed approach to learn robust student networks which have satisfying accuracy and compact sizes. Our ShrinkTeaNet is able to support the light-weight architecture achieving high performance with 99.77% on LFW and 95.64% on large-scale Megaface protocols.

研究の動機と目的

• 計算リソースが限られたモバイルおよび組み込みデバイスに大規模顔認識を効果的に展開する課題に対処すること。
• 訓練クラスとは異なるテストクラスが存在するオープンセット顔認識において、分類スコアのログイット以外の知識を転送することで、耐性を高めること。
• 教師ネットワークのハイパースフィアの幾何的構造、特に特徴の方向性とサンプル分布を保存する蒸留手法を開発し、一般化性能を向上させること。
• 最終層だけでなく、特徴埋め込みの全段階にわたる効率的な蒸留を可能にし、学生ネットワークの性能を向上させること。
• コンパクトで軽量なアーキテクチャを用いても、大規模かつオープンセット条件において競争力のある精度を維持しつつ、耐性を保つこと。

提案手法

• 特徴ベクトルの正確な値ではなく、教師ネットワークのハイパースフィア内の特徴の方向性と分布に一致するように学生ネットワークを促す、角度蒸留損失を導入する。
• 教師ネットワークの中間層および最終層から知識を転送できるように、特徴埋め込みプロセスの各段階に蒸留を適用する。
• 高性能な重いネットワークを教師とし、軽量アーキテクチャ（例：MobileNetV1、MobileNetV2、MobileFaceNet）を学生として、知識蒸留により訓練する。
• 特徴ベクトル間の角度類似度に基づくソフト制約を採用し、従来のℓ₂損失や交差エントロピー損失よりも柔軟性がある。
• 最終分類器と中間特徴マップの両方を用いて、学生の表現学習を同時に最適化するマルチステージ蒸留フレームワークを設計する。
• 教師が学習したクラス分布と特徴の幾何構造を活用して、学生の意思決定境界の形成をガイドし、未知クラスへの一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 テストクラスが訓練クラスと異なるオープンセット顔認識において、知識蒸留を効果的に適用できるか？
• RQ2 教師のハイパースフィアからの特徴の方向性とサンプル分布を蒸留することで、従来のログイットやℓ₂損失に基づく蒸留と比較して、学生の一般化性能が向上するか？
• RQ3 軽量な学生ネットワークが、MegaFaceのような大規模ベンチマークで競争力のある性能を達成できるか？
• RQ4 最終層でのみ蒸留するのではなく、特徴埋め込み層の全段階にわたるマルチステージ蒸留は、学生の性能にどのように影響するか？
• RQ5 提案された角度蒸留損失は、軽量モデルにおけるℓ₂ベースの蒸留と比較して、過学習や訓練の不安定性を軽減できるか？

主な発見

• ShrinkTeaNetはLFWベンチマークで99.77%の精度を達成し、軽量な学生ネットワークでも強力な性能を示している。
• 100万件の誤検出者を含む大規模なMegaFaceプロトコルでは、ShrinkTeaNet-MFNRが95.64%の精度を達成し、ArcFaceとの差はわずか1.71%にまで縮小された。
• LFWでは教師と学生の性能差をたった0.05%にまで縮小し、CFP-FPでは1.83%、AgeDBでは0.74%にまで抑え、ℓ₂ベースの蒸留を著しく上回った。
• IJB-BおよびIJB-Cプロトコルでは、ベースラインモデル比で学生の性能が1.9%から3.64%向上し、IJB-CではArcFaceとの差が0.016にまで縮小された。
• 角度蒸留損失を用いた訓練プロセスは、軽量モデルでよく見られる過剰正則化や不安定性に悩まされない、より安定していた。
• ShrinkTeaNetは、オープンセットの大規模顔認識に特化して設計・検証された最初の蒸留フレームワークの一つであり、分布シフトに対して高い耐性を示した。