[論文レビュー] FL-NTK: A Neural Tangent Kernel-based Framework for Federated Learning Convergence Analysis

Baihe Huang, Xiaoxiao Li+2 more|arXiv (Cornell University)|May 11, 2021

Privacy-Preserving Technologies in Data参考文献 38被引用数 4

ひとこと要約

本稿では、過パラメータ化されたReLUニューラルネットワークを用いたフェデレーテッドラーニングにおける収束性と一般化性能の分析を目的とした、ニューラルタングェントカーネル（NTK）に基づく新規フレームワークであるFL-NTKを提案する。NTK理論を活用することで、非凸的かつ非滑らかな目的関数のもとでもグローバル最適解への線形収束を証明し、データに依存する一般化バウンドを確立することで、従来の勾配ベースの解析が抱える限界を克服する。

ABSTRACT

Federated Learning (FL) is an emerging learning scheme that allows different distributed clients to train deep neural networks together without data sharing. Neural networks have become popular due to their unprecedented success. To the best of our knowledge, the theoretical guarantees of FL concerning neural networks with explicit forms and multi-step updates are unexplored. Nevertheless, training analysis of neural networks in FL is non-trivial for two reasons: first, the objective loss function we are optimizing is non-smooth and non-convex, and second, we are even not updating in the gradient direction. Existing convergence results for gradient descent-based methods heavily rely on the fact that the gradient direction is used for updating. This paper presents a new class of convergence analysis for FL, Federated Learning Neural Tangent Kernel (FL-NTK), which corresponds to overparamterized ReLU neural networks trained by gradient descent in FL and is inspired by the analysis in Neural Tangent Kernel (NTK). Theoretically, FL-NTK converges to a global-optimal solution at a linear rate with properly tuned learning parameters. Furthermore, with proper distributional assumptions, FL-NTK can also achieve good generalization.

研究の動機と目的

• 深層ニューラルネットワークを用いたフェデレーテッドラーニングにおける理論的収束保証の欠如に取り組むこと、特に非凸的かつ非滑らかな目的関数および複数ステップのローカル更新が適用される状況において。
• 勾配の非均一性と勾配ベースでないグローバルなアップデートが原因で、標準的な勾配ベースの収束解析がフェデレーテッドラーニングで失敗するという課題を克服すること。
• 過パラメータ化されたニューラルネットワークを用いて、フェデレーテッドラーニングにおける収束性と一般化性能を統一的かつ一般化可能なフレームワークで分析する。
• 目的関数の凸性や滑らかさに関する仮定を必要としない、明示的な収束速度と一般化バウンドを確立すること。

提案手法

• 過パラメータ化されたネットワークのニューラルタングェントカーネル（NTK）理論に着想を得た、フェデレーテッドラーニング用ニューラルタングェントカーネル（FL-NTK）フレームワークを提案する。
• ローカル更新とグローバルアグリゲーションのダイナミクスを捉える非対称グラム行列を用いて、FLにおけるモデル重みの変化を分析する。
• クライアントのデータ非同一性を考慮し、ラデマッハ複雑度と経験プロセス理論を用いて、データに依存する一般化バウンドを導入する。
• モデル重みの逸脱と一般化誤差の制御のために、確率的集中不等式と失敗事象のユニオンバウンドを用いる。
• 収束性と安定性を保証するために、ランダム初期化と無限幅におけるNTKグラム行列の固有値に関するスペクトル仮定を採用する。
• 被覆数と経験プロセスバウンドを含む統計的学習理論の道具を用いて、高い確率で一般化誤差を導出する。

実験結果

リサーチクエスチョン

• RQ1 凸性や滑らかさの仮定を必要としない、ReLUニューラルネットワークを用いたフェデレーテッドラーニングの収束解析フレームワークを確立できるか？
• RQ2 過パラメータ化されたモデルを用いた場合、クライアント間の勾配非均一性がFLの収束にどのように影響するか？
• RQ3 過パラメータ化された領域において、データ分布とモデル容量に依存する一般化バウンドを導出できるか？
• RQ4 クライアント数とローカル更新ステップ数が、過パラメータ化されたネットワークを用いたFLにおける収束速度に与える影響は何か？
• RQ5 中央集権学習とは異なり、非対称構造を示すFL-NTKグラム行列をどのように扱えるか？

主な発見

• ネットワークが十分に広い場合、適切な学習率のチューニングのもとで、すべてのクライアントにおける訓練損失が線形速度でゼロに収束する。
• 高い確率で、母集団損失は $ \sqrt{\frac{2y^{\top}(H^{\infty})^{-1}y}{n}} + O\left(\sqrt{\frac{\log(n/\lambda\delta)}{2n}}\right) $ で上界が与えられる。
• 目的関数の凸性や滑らかさに関する仮定を必要とせず、収束性を達成する。
• ラデマッハ複雑度を用いた一般化誤差のバウンドが得られ、そのバウンドはデータ分布とモデル幅に依存する。
• 通信ラウンド数はクライアント数の増加に伴って増加するが、これは実験的観察と整合的である。
• データ分布の非退化性条件のもとで、無限幅におけるNTKグラム行列が正定値固有値を有するため、逆行列が存在することが保証される。