[論文レビュー] PRIOR: Personalized Prior for Reactivating the Information Overlooked in Federated Learning

Mingjia Shi, Zhou Yuhao+5 more|arXiv (Cornell University)|Oct 13, 2023

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本稿では、データの非同一性に起因する情報損失を軽減するため、Bregman発散正則化と緩和型ミラー降下法（RMD）を用いて、グローバルモデルに個人化された事前知識を組み込むことで、pFedBreDと呼ばれる新しいパーソナライズドフェデレーテッドラーニングフレームワークを提案する。本手法は、DNN-FEMNISTなどのベンチマークで最大3.5%の精度向上を達成し、最先端の性能を発揮する。理論的収束保証と非凸および低集約設定下でも高いロバスト性を示す。

ABSTRACT

Classical federated learning (FL) enables training machine learning models without sharing data for privacy preservation, but heterogeneous data characteristic degrades the performance of the localized model. Personalized FL (PFL) addresses this by synthesizing personalized models from a global model via training on local data. Such a global model may overlook the specific information that the clients have been sampled. In this paper, we propose a novel scheme to inject personalized prior knowledge into the global model in each client, which attempts to mitigate the introduced incomplete information problem in PFL. At the heart of our proposed approach is a framework, the PFL with Bregman Divergence (pFedBreD), decoupling the personalized prior from the local objective function regularized by Bregman divergence for greater adaptability in personalized scenarios. We also relax the mirror descent (RMD) to extract the prior explicitly to provide optional strategies. Additionally, our pFedBreD is backed up by a convergence analysis. Sufficient experiments demonstrate that our method reaches the state-of-the-art performances on 5 datasets and outperforms other methods by up to 3.5% across 8 benchmarks. Extensive analyses verify the robustness and necessity of proposed designs.

研究の動機と目的

• パーソナライズドフェデレーテッドラーニング（PFL）において、1つのグローバルモデルが固有のクライントデータ特徴を保持できないという問題に対処する。
• 明示的に個人化された事前知識をグローバルモデルに抽出・組み込むことで、ローカルモデルの適応性とパフォーマンスを向上させる。
• データの非同一性や非凸目的関数下でも収束性とロバスト性を保証する理論的根拠に基づいたフレームワークを開発する。
• 直接的なグローバルモデルのファインチューニングに依存するが、事前知識の組み込みを行わない従来のPFL手法の限界を克服する。
• 凸および非凸最適化設定の両方をサポートする、柔軟で適応可能なパーソナライズドラーニングフレームワークを提供する。

提案手法

• Bregman発散正則化を用いて、ローカル目的関数から個人化された事前知識を分離することで、非同一な環境下での適応性を向上させるpFedBreDフレームワークを提案する。
• 緩和型ミラー降下法（RMD）を導入し、ローカルモデルから明示的に事前知識を抽出することで、解釈可能でカスタマイズ可能なパーソナライゼーション戦略を可能にする。
• PFL問題をベイジアン最適化のタスクとして定式化：グローバルモデル学習にはGlobal-MLE（最尤推定）、ローカルパーソナライゼーションにはLocal-MAP（事後確率最大化）を用いる。
• Bregman発散を用いてローカル目的関数を正則化し、クライント固有の情報を保持する安定的かつ適応的な更新を保証する。
• 二段階のトレーニングプロセスを採用：まず、個人化された事前知識をグローバルモデルに組み込み、次にローカル知識を抽出・集約してグローバルモデルを精緻化する。
• 理論的収束解析により、集約ノイズ下では線形バインドO(1/TN)、ノイズなし状況下では2次速度向上O(1/(TNR)^2)を示す。

実験結果

リサーチクエスチョン

• RQ1 グローバルモデルに個人化された事前知識を明示的に組み込むことで、フェデレーテッドラーニングにおけるデータ非同一性に起因する情報損失を軽減できるか？
• RQ2 クライントデータからの事前知識をどのように明示的に抽出・利用することで、ローカルモデルのパーソナライゼーションを向上させられるか？
• RQ3 提案されたpFedBreDフレームワークは、非凸および非同一データ設定下で、従来のPFL手法よりも優れた収束性とパフォーマンスを達成するか？
• RQ4 pFedBreDの理論的収束挙動はどのようなものか？集約ノイズおよびクライントの非同一性に伴い、どのようにスケーリングされるか？
• RQ5 Bregman発散とRMDを組み合わせたハイブリッド戦略は、多様なベンチマークおよびデータ分布において補完的かつロバストであるか？

主な発見

• pFedBreDは、5つの実世界データセット上で8つのベンチマークで最先端のパフォーマンスを達成し、特にDNN-FEMNISTにおいて最大3.5%の精度向上を実現した。
• データ非同一性に対して高いロバスト性を示し、特に集約レートが低い状況下で、性能向上が顕著に見られた。
• アブレーションスタディにより、Bregman発散とRMDを組み合わせたハイブリッド戦略が補完的であることが確認され、各構成要素が性能向上に寄与していることが示された。
• 理論的解析により、集約ノイズ下では線形バインドO(1/TN)、ノイズなし状況下では2次速度向上O(1/(TNR)^2)の収束性が保証された。
• 事前知識の組み込みと抽出の存在および有効性が実証的に検証され、個人化された事前知識がモデルの一般化および適応性を顕著に向上させることを示した。
• 凸および非凸のローカル目的関数の両方において、フレームワークは強力なパフォーマンスを維持しており、その広範な適用可能性が確認された。