[論文レビュー] Local Adaptivity in Federated Learning: Convergence and Consistency

Jianyu Wang, Zheng Xu+4 more|arXiv (Cornell University)|Jun 4, 2021

Privacy-Preserving Technologies in Data参考文献 38被引用数 21

ひとこと要約

本稿では、クライアントで適応的最適化手法（例：AdaGrad）を用いたフェデレーテッドラーニングにおけるローカルな適応性を提案する。これにより収束が加速されるが、非消滅型の解のバイアスが生じる。この不一致を解消するため、著者らはステートリスタート機構と補正技術を導入し、実世界のフェデレーテッドタスクにおいてベースライン手法よりも収束が速く、テスト精度が高くなることを実証した。

ABSTRACT

The federated learning (FL) framework trains a machine learning model using decentralized data stored at edge client devices by periodically aggregating locally trained models. Popular optimization algorithms of FL use vanilla (stochastic) gradient descent for both local updates at clients and global updates at the aggregating server. Recently, adaptive optimization methods such as AdaGrad have been studied for server updates. However, the effect of using adaptive optimization methods for local updates at clients is not yet understood. We show in both theory and practice that while local adaptive methods can accelerate convergence, they can cause a non-vanishing solution bias, where the final converged solution may be different from the stationary point of the global objective function. We propose correction techniques to overcome this inconsistency and complement the local adaptive methods for FL. Extensive experiments on realistic federated training tasks show that the proposed algorithms can achieve faster convergence and higher test accuracy than the baselines without local adaptivity.

研究の動機と目的

• フェデレーテッドラーニングにおけるローカルクライアント更新に適応的最適化手法（例：AdaGrad）を用いる影響を調査すること。
• ローカル適応的最適化手法をそのまま適用すると、グローバルな目的関数の停留点から逸脱する非消滅型の解のバイアスが生じることを特定すること。
• 通信ラウンド間で最適化器の状態に不連続性が生じる問題を解消するためのステートリスタート機構を提案すること。
• ローカル適応性の利点を保ちつつ、グローバルな目的関数と整合性を回復させる補正技術を開発すること。
• 提案手法が現実のフェデレーテッドトレーニングタスクにおいて、収束が速く、テスト精度が高いことを実証的に検証すること。

提案手法

• ステートリスタート機構の提案：各通信ラウンドの開始時にクライアントの最適化器状態（例：事前条件子、モーメンタムバッファ）を再初期化することで、状態依存最適化器に生じる不連続性に対処する。
• 最適化器の形式に応じて変化する演算子 $\mathbb{E}[\mathcal{A}]$ を含む固定点問題として FedOpt を定式化し、収束性とバイアスの理論的分析を可能にする。
• ローカル適応手法によって生じるバイアスを相殺するために、グローバル更新ステップを補正する技術を導入し、正しい解への収束を保証する。
• 理論的分析により、ローカル適応性が最適化の多様性を改善するが、固定点をグローバル最小値からずらす可能性があることが示された。
• ClientOptに適応的手法（例：AdaGrad）を、ServerOptに標準的または適応的更新を用いる修正版 FedOpt フレームワークを採用し、グローバル更新ステップに補正を適用する。
• 実世界のフェデレーテッドラーニングタスクにおいて、サーバー側でのみ適応的更新を用いるか、SGDのみを用いるベースラインと比較して、収束速度とテスト精度を実験的に評価する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングにおけるローカル適応的最適化手法（例：AdaGrad）は、標準的な SGD よりも収束を加速するか？
• RQ2 ローカル適応的最適化手法の使用は、収束したモデルがグローバル目的関数の停留点から逸脱する非消滅型の解のバイアスを生じるか？
• RQ3 状態依存のローカル最適化器を用いる場合、通信ラウンド間で最適化器の状態に不連続性が生じる問題は、どのように解消できるか？
• RQ4 補正技術は、ローカル適応性の利点を保ちながら、グローバル目的関数と整合性を回復できるか？
• RQ5 提案手法は、実世界のフェデレーテッドラーニング環境において、既存のベースラインよりも収束が速く、テスト精度が高いか？

主な発見

• AdaGrad などのローカル適応的手法は、ローカル最適化の多様性を改善することで、フェデレーテッドラーニングにおける収束を顕著に加速する。
• ローカル適応的最適化手法をそのまま適用すると、最終的なモデルがグローバル目的関数の停留点から逸脱する非消滅型の解のバイアスが生じる。
• 提案されたステートリスタート機構は、ラウンド間の最適化器状態の不連続性を効果的に解消し、ローカル適応的手法の安定な使用を可能にする。
• 補正技術は、ローカル適応性の利点を保ちつつ、グローバル目的関数と整合性を回復するのに成功した。
• 実世界のフェデレーテッドタスクにおける実験から、提案手法は、サーバー側でのみ適応的更新を用いるか、vanilla SGD を用いるベースラインよりも収束が速く、テスト精度が高いことが示された。
• 理論的分析により、ローカル適応性が固定点演算子 $\mathbb{E}[\mathcal{A}]$ を変化させることを確認し、解をグローバル最小値に一致させるために補正が必要であることが示された。