[論文レビュー] Improving Federated Learning Face Recognition via Privacy-Agnostic Clusters

Qiang Meng, Feng Zhou+4 more|arXiv (Cornell University)|Jan 29, 2022

Face recognition and analysis被引用数 15

ひとこと要約

この論文では、プライバシーに配慮したクラスタリングの方法を用いて、顔認識の性能を向上させるためのフェデレーテッド学習フレームワークであるPrivacyFaceを提案する。本手法は、生の埋め込み表現ではなく、洗練されたプライバシーに無関係なクラス中心のクラスタを通信することで、微分プライバシーを確保しながら性能を向上させる。Differentially Private Local Clustering (DPLC) 機構を用いてノイズ保護されたクラスタを生成し、コンSENSUS-aware損失関数によりクライアント間の特徴を整列させる。IJB-BとIJB-Cにおいて、それぞれ+9.63%および+10.26%のTAR@FAR=1e-4の向上を達成し、通信コストはほとんど増加せず、強力なプライバシー保証を実現する。

ABSTRACT

The growing public concerns on data privacy in face recognition can be greatly addressed by the federated learning (FL) paradigm. However, conventional FL methods perform poorly due to the uniqueness of the task: broadcasting class centers among clients is crucial for recognition performances but leads to privacy leakage. To resolve the privacy-utility paradox, this work proposes PrivacyFace, a framework largely improves the federated learning face recognition via communicating auxiliary and privacy-agnostic information among clients. PrivacyFace mainly consists of two components: First, a practical Differentially Private Local Clustering (DPLC) mechanism is proposed to distill sanitized clusters from local class centers. Second, a consensus-aware recognition loss subsequently encourages global consensuses among clients, which ergo results in more discriminative features. The proposed framework is mathematically proved to be differentially private, introducing a lightweight overhead as well as yielding prominent performance boosts ( extit{e.g.}, +9.63\% and +10.26\% for TAR@FAR=1e-4 on IJB-B and IJB-C respectively). Extensive experiments and ablation studies on a large-scale dataset have demonstrated the efficacy and practicability of our method.

研究の動機と目的

• フェデレーテッド顔認識におけるプライバシーと有用性のジレンマを解決すること。ここでの課題は、クラス中心を共有することで顔認識に必要な生体認証情報が漏洩する可能性があること。
• クライアント間で重複する特徴空間や限られたグローバルなネガティブクラスの認識による、FLにおける性能低下を克服すること。
• 通信効率が良く、プライバシーを保護する手法を設計し、個々の個人のアイデンティティを露呈せずに、クライアントが協調的に判別力の高い顔埋め込みを学習できるようにすること。
• 新規のクラスタリングおよび損失機構を用いて、グローバル学習と同等の高い認識精度を達成しながら、厳密な微分プライバシーを維持すること。

提案手法

• 局所的なクラス中心をクラスタにグループ化し、クラスタのl2感度に比例したノイズを適用する、微分プライバシーを満たす局所的クラスタリング手法（Differentially Private Local Clustering: DPLC）を提案する。
• クラスタサイズを制限し、十分なカバー範囲を確保することでl2感度を低減し、個別クラスに対する微分プライバシーと比較してノイズを低減し、より高い有用性を実現する。
• 生のクラス中心の代わりに、洗練されたクラスタ中心（$\hat{\bm{p}}$）のみを通信することで、プライバシー漏洩のリスクを低減する。
• クライアント間の埋め込み特徴をクラスタ内ですり合わせることを促進するコンセンサス意識のある認識損失関数を導入する。これにより、特徴の判別性が向上する。
• Federated Averaging (FedAvg) に、新しい損失関数とクラスタ通信を組み合わせ、プライバシーを保持したままグローバルモデルを学習する。
• 数学的に、本フレームワークが$\epsilon = 1.7 \times 10^{-7}$のプライバシー予算で微分プライバシーを満たすことを証明し、これは素朴な個別クラスへのノイズ追加と比較して著しく低い値である。

実験結果

リサーチクエスチョン

• RQ1 共有されるモデルパラメータを通じて、個人のアイデンティティ情報を露呈させることなく、フェデレーテッド顔認識の性能を向上させることは可能か？
• RQ2 フェデレーテッド顔認識におけるクラス中心のクラスタリングにおいて、プライバシーコストを低減しつつ高い有用性を維持するにはどうすればよいか？
• RQ3 生のクラス中心ではなく、洗練されたクラスタベースの表現を通信することで、顔認識における一般化性能と耐障害性が向上するか？
• RQ4 コンセンサス意識のある損失関数は、クライアント間の特徴整列および認識精度をどの程度向上させるか？
• RQ5 提案手法は、グローバル学習に近い性能を達成しながら、強力な微分プライバシーを保証できるか？

主な発見

• ArcFaceを用いた場合、PrivacyFaceはIJB-BでTAR@FAR=1e-4において+9.63%、IJB-Cでは+10.26%の向上を達成し、従来のFL手法に比べ顕著な性能向上を示した。
• PrivacyFace（$\bm{\phi}+\hat{\bm{p}}$）の性能は、非プライベートなグローバル学習ベースラインとほとんど区別がつかないほどに近く、優れたプライバシーと有用性のトレードオフを示している。
• DPLC機構により、素朴な個別クラスに対する微分プライバシーと比較して、プライバシーコストが1.7e-7のスケールにまで低減された。これは、本手法の効率性と安全性を裏付ける。
• 最適なクラスタマージン$\rho$は約1.3であり、この閾値を下回るか超過すると、過学習または自明なクラスタリングにより性能が低下する。
• フレームワークは通信コストをほとんど増加させず、1ラウンドあたり約16KBの追加データ量に留め、スケーラビリティに優れている。
• アブレーションスタディの結果、DPLCとコンセンサス意識のある損失関数の両方が不可欠であることが確認され、いずれかを削除すると顕著な性能低下が生じた。