[論文レビュー] Federated Face Recognition

Fan Bai, Jiaxiang Wu+3 more|arXiv (Cornell University)|May 6, 2021

Face recognition and analysis参考文献 23被引用数 10

ひとこと要約

本稿では、顔認識におけるデータの機微性を守りながらモデル性能を維持または向上させる、新しいフェデレーテッドラーニングフレームワーク「FedFace」を提案する。クライアントドリフトを効率的に軽減するための部分的フェデレーテッドモーメント（PFM）と、プライベートな検証データを用いてアグリゲーション重みを動的に最適化するフェデレーテッドバリデーション（FV）を導入し、複数のベンチマークで中央集権的学習と同等またはそれ以上の性能を達成した。

ABSTRACT

Face recognition has been extensively studied in computer vision and artificial intelligence communities in recent years. An important issue of face recognition is data privacy, which receives more and more public concerns. As a common privacy-preserving technique, Federated Learning is proposed to train a model cooperatively without sharing data between parties. However, as far as we know, it has not been successfully applied in face recognition. This paper proposes a framework named FedFace to innovate federated learning for face recognition. Specifically, FedFace relies on two major innovative algorithms, Partially Federated Momentum (PFM) and Federated Validation (FV). PFM locally applies an estimated equivalent global momentum to approximating the centralized momentum-SGD efficiently. FV repeatedly searches for better federated aggregating weightings via testing the aggregated models on some private validation datasets, which can improve the model's generalization ability. The ablation study and extensive experiments validate the effectiveness of the FedFace method and show that it is comparable to or even better than the centralized baseline in performance.

研究の動機と目的

• 顔認識におけるデータの機微性に関する懸念を軽減し、生データを共有せずに協調的なモデル学習を可能にする。
• 顔認識というデータの機微性が極めて重要な分野に、フェデレーテッドラーニングを適応させ、これまでにあまり検討されてこなかった分野に貢献する。
• 顔認識に多様な参加者（パーティ）が関与する非i.i.d.データ環境において、クライアントドリフトを克服する。
• データの機微性を損なわず、フェデレーテッド顔認識におけるモデルの汎化性能を向上させる。
• 実世界の展開に適した実用的で効率的かつプライバシーを守る学習フレームワークを構築する。

提案手法

• 部分的フェデレーテッドモーメント（PFM）を提案し、局所的な勾配の総和を用いてグローバルモーメントを局所的に推定することで、クライアントドリフトを軽減しつつ、学習効率を維持する。
• フェデレーテッドバリデーション（FV）を導入し、プライベートな検証データセットを用いてトレーニング中に最適なアグリゲーション重みを探索する動的重み戦略を実現する。
• サーバーが複数のクライアント（パーティ）を統合し、それぞれがプライベートなデータとモデルを保有するクロスシロ型フェデレーテッドラーニング設定を採用する。
• FVにおける最適なアグリゲーション重みの探索を安定化・向上させるために、移動平均正規化と局所正規化スコアを用いる。
• 二段階のトレーニングプロセスを採用：まずPFMを用いた局所的モデル更新を行い、次にFVで最適化された重みを用いたグローバルアグリゲーションを実施する。
• 標準的な顔認識バックボーン（例：IR-18, IR-34）および損失関数（ArcFace, CosFace）を、FedFaceフレームワークに統合する。

実験結果

リサーチクエスチョン

• RQ1 顔認識にフェデレーテッドラーニングを効果的に適用でき、かつデータの機微性を守ることができるか？
• RQ2 トレーニング効率を損なわず、フェデレーテッド顔認識におけるクライアントドリフトをどのように軽減できるか？
• RQ3 プライベートな検証データを活用することで、フェデレーテッド顔認識におけるモデルの汎化性能を向上させられるか？
• RQ4 PFMとFVは、異なる設定においてどのように相互に補完し合い、性能向上に寄与するか？
• RQ5 非i.i.d.データおよび異なるシステム構成下でも、FedFaceは中央集権的学習を上回る正確性と頑健性を示すか？

主な発見

• FedFaceは、MS1M、GA、VGGなどのすべての評価ベンチマークで、中央集権的ベースラインと同等またはそれ以上の性能を達成した。
• PFMはFedAvgと比較してトレーニング損失を顕著に低減し、いくつかの設定では中央集権的学習を下回る最終損失を記録しており、適合能力の向上を示している。
• 局所正規化スコアを用いたFVは、他の正規化戦略と比較して一貫して優れた性能を示し、最良のモデル汎化性能を達成した。
• FVの重みは動的に変化する：MS1Mデータを持つパーティは初期段階で高い重みを獲得し、トレーニングの進行に従い等価な値に収束する。
• 同期間隔が増加する（K=100, 400, 1600）状況下でも、FedFaceは安定した性能を維持するが、FedAvgは著しく性能を低下させるため、PFMとFVの頑健性が示された。
• 12パーティの設定下でも、FedFaceはFedAvgを上回り、中央集権的ベースラインと同等またはそれを上回る性能を示しており、大規模なフェデレーテッド環境におけるスケーラビリティと有効性を確認した。