[論文レビュー] Federated Meta-Learning with Fast Convergence and Efficient Communication

Fei Chen, Mi Luo+3 more|arXiv (Cornell University)|Feb 22, 2018

Privacy-Preserving Technologies in Data参考文献 36被引用数 277

ひとこと要約

FedMeta はパラメータ化された学習アルゴリズムを federated meta-learning (MAML/Meta-SGD) を介して訓練し、迅速な適応、通信の削減、FedAvg より高い精度を実現するとともに、クライアントのプライバシーを保護します。

ABSTRACT

Statistical and systematic challenges in collaboratively training machine learning models across distributed networks of mobile devices have been the bottlenecks in the real-world application of federated learning. In this work, we show that meta-learning is a natural choice to handle these issues, and propose a federated meta-learning framework FedMeta, where a parameterized algorithm (or meta-learner) is shared, instead of a global model in previous approaches. We conduct an extensive empirical evaluation on LEAF datasets and a real-world production dataset, and demonstrate that FedMeta achieves a reduction in required communication cost by 2.82-4.33 times with faster convergence, and an increase in accuracy by 3.23%-14.84% as compared to Federated Averaging (FedAvg) which is a leading optimization algorithm in federated learning. Moreover, FedMeta preserves user privacy since only the parameterized algorithm is transmitted between mobile devices and central servers, and no raw data is collected onto the servers.

研究の動機と目的

• 非 IID およびリソース制約のあるクライアント設定の下で連合学習を動機づける。
• グローバルモデルの代わりにパラメータ化されたアルゴリズムを共有するフレームワークとして FedMeta を提案する。
• モデル非依存のメタ学習アルゴリズム（MAML と Meta-SGD）を連合フレームワークに統合する。
• FedMeta を LEAF データセットと実運用データセットで評価し、FedAvg に対する精度、収束、通信コストを比較する。
• サーバー上で生データを収集せずにプライバシーの利点を示す。

提案手法

• クライアント間で共有されるパラメータ化されたメタラーナー ϕ（例：MAML の初期化 θ、または Meta-SGD の (θ, α)）を採用する。
• クライアントはアルゴリズムのパラメータを受け取り、ローカルのサポートデータで訓練し、クエリ損失を報告してサーバー側のメタラーナーを更新する。
• サーバーは集約されたクライアントのフィードバックを用いてメタラーナーのパラメータを伝播的に更新する（外ループ）。
• 各エピソードでクライアントのバッチをサンプリングして内側/外側の更新を行うエピソード学習を使用する。
• FedMeta フレームワーク内で実行例として MAML と Meta-SGD を統合し、アプローチを illustrative に示す。
• 生データではなく、アルゴリズムパラメータと損失のみが伝送される点からプライバシー保護を実証する。

実験結果

リサーチクエスチョン

• RQ1 FedMeta は diverse な連合データセット全体で FedAvg と比較してより速い収束と低い通信コストを達成できるか。
• RQ2 メタ学習ベースの連合学習法（MAML/Meta-SGD）は非 IID な個別クライアントデータに対してより高い精度とより良い一般化を提供するか。
• RQ3 クライアントのサポート分率（適応に使用するデータ）を変化させたとき、FedMeta の性能は FedAvg とどう異なるか。
• RQ4 FedMeta と基準的な連合学習法との計算対通信オーバーヘッドのトレードオフはどうなるか。
• RQ5 FedMeta はサーバー上での生データ収集を回避することによりプライバシーの利点を維持するか。

主な発見

• FedMeta は評価タスク全体で必要な通信コストを 2.82–4.33× 削減する。
• FedMeta は FedAvg よりも最終的な精度が高く、改善幅は 3.23% から 14.84% の範囲。
• MAML/Meta-SGD を含むメタ学習ベースの FedMeta バリアントは LEAF データセットでより速い収束と高い安定性を示す。
• FedAvg(Meta) はしばしば FedAvg より改善するが、FedMeta バリアントは通常より大きなゲインをもたらし、特にクライアントのサポート分率が増加すると顕著。
• FedMeta は実際の産業用推薦タスクで有効性を示し、複数の設定でスタンドアロンおよび統合型の連合モデルを上回る。