[論文レビュー] Maximizing Global Model Appeal in Federated Learning

Yae Jee Cho, Divyansh Jhunjhunwala+3 more|arXiv (Cornell University)|May 30, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

この論文は、クライアント固有のパフォーマンス要件を満たすクライアントの割合（グローバルモデルの魅力）を最大化するため、クライアント要件を考慮した重み付きアグリゲーションを用いる、新しいフェデレーテッドラーニングフレームワークMaxFLを紹介する。MaxFLは、最先端のFL手法と比較して、確認済みクライアントでは22–40%、未確認クライアントでは18–50%高いテスト精度を達成し、非凸的で部分的参加が想定される設定下でも収束保証を提供する。

ABSTRACT

Federated learning typically considers collaboratively training a global model using local data at edge clients. Clients may have their own individual requirements, such as having a minimal training loss threshold, which they expect to be met by the global model. However, due to client heterogeneity, the global model may not meet each client's requirements, and only a small subset may find the global model appealing. In this work, we explore the problem of the global model lacking appeal to the clients due to not being able to satisfy local requirements. We propose MaxFL, which aims to maximize the number of clients that find the global model appealing. We show that having a high global model appeal is important to maintain an adequate pool of clients for training, and can directly improve the test accuracy on both seen and unseen clients. We provide convergence guarantees for MaxFL and show that MaxFL achieves a $22$-$40\%$ and $18$-$50\%$ test accuracy improvement for the training clients and unseen clients respectively, compared to a wide range of FL modeling approaches, including those that tackle data heterogeneity, aim to incentivize clients, and learn personalized or fair models.

研究の動機と目的

• グローバルモデルが個々のクライアントのパフォーマンス要件を満たさないために生じるクライアント参加率の低さという重要な問題に対処すること。
• グローバルモデルが個々のクライアントのローカル要件を満たすクライアントの割合としての「グローバルモデルの魅力」を定義・形式化すること。
• この魅力を明示的に最大化するトレーニングフレームワークを開発し、クライアントの維持とモデルの汎化性能の両方を向上させること。
• 非凸的で部分的参加が想定される現実的なFL状況下で、提案手法の理論的収束保証を提供すること。
• 公平性、パーソナライゼーション、クライアントインcentiveメカニズムの観点から、MaxFLの優位性を実験的に検証すること。

提案手法

• MaxFLは、各クライアントのローカル損失がクライアント固有のしきい値未満であるクライアント数を最大化するグローバル最適化目的関数を定式化し、これをグローバルモデルの魅力（GM-Appeal）として定義する。
• クライアント満足度のインジケータ関数を近似するために、微分可能でシグモイドベースの緩和を用い、クライアント重み付きアグリゲーションスキームの勾配ベース最適化を可能にする。
• クライアントの期待されるGM-Appeal上昇寄与度に基づいて、クライアント更新の寄与をスケーリングするクライアント重み付きアグリゲーションルールを採用する。この寄与度は、経験的ローカル損失から導出される。
• 目的関数の平坦領域での収束速度を向上させるため、理論的学習率適応戦略を導入し、最適化効率を向上させる。
• 状態なしで動作し、部分的クライアント参加をサポートするため、動的クライアント可用性を伴う実世界のフェデレーテッド設定に実用的である。
• 最適化目的関数において真のローカル損失を経験的損失に置き換えるが、訓練済みモデルにおける真の損失と経験的損失の間の最小限の乖離を実証的に示すことにより、この主な緩和の妥当性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングをどのように再設計すれば、グローバルモデルに魅力を感じるクライアント数を最大化できるか？
• RQ2 高いグローバルモデルの魅力が、確認済みおよび未確認クライアントのテスト精度に与える影響は何か？
• RQ3 公平性、パーソナライゼーション、分散低減に焦点を当てた既存手法と比較して、クライアント要件を考慮したアグリゲーション戦略は優れているか？
• RQ4 非凸的でクライアント重み付き、魅力最大化を目的とするフェデレーテッドラーニングアルゴリズムに対して、どのような理論的収束保証を提供できるか？
• RQ5 動的クライアント参加（離脱やByzantineクライアントを含む）下でも、提案手法はどれほど頑健か？

主な発見

• MaxFLは、評価されたすべてのデータセットでグローバルモデルの魅力（GM-Appeal）を少なくとも0.40にまで向上させ、公平性に焦点を当てた手法（例：q-FFL）と比較して、GM-Appealが0.01未満にとどまることが明らかになった。
• MaxFLは、パーソナライズド、公平、分散低減手法を含む広範なFLベースラインと比較して、確認済みクライアントのテスト精度を22–40%向上させた。
• 未確認クライアントでは、MaxFLが18–50%の精度向上を達成し、高い魅力によって得られるより大規模で多様なクライアントプールのおかげで、優れた汎化性能を示した。
• クライアントが離脱する場合やByzantineクライアントが参加する場合でも、MaxFLは強力な性能を維持し、動的環境における頑健性を示した。
• 実証的検証により、訓練済みモデルにおいて真のローカル損失と経験的損失がほぼ同一であることが確認され、MaxFLの最適化で用いられる主要な緩和の妥当性が裏付けられた。
• MaxFLの理論的学習率適応戦略により、平均推定の例で示されるように、平坦領域での収束速度が向上し、適応的学習率戦略の有効性が検証された。