[論文レビュー] Active Federated Learning

Jack Goetz, Kshitiz Malik+4 more|arXiv (Cornell University)|Sep 27, 2019

Privacy-Preserving Technologies in Data参考文献 13被引用数 83

ひとこと要約

Active Federated Learning (AFL) は、現在のモデルとクライアントデータから算出される価値関数に基づいてクライアント群を選択し、精度を維持しつつ訓練反復を20-70%削減します。

ABSTRACT

Federated Learning allows for population level models to be trained without centralizing client data by transmitting the global model to clients, calculating gradients locally, then averaging the gradients. Downloading models and uploading gradients uses the client's bandwidth, so minimizing these transmission costs is important. The data on each client is highly variable, so the benefit of training on different clients may differ dramatically. To exploit this we propose Active Federated Learning, where in each round clients are selected not uniformly at random, but with a probability conditioned on the current model and the data on the client to maximize efficiency. We propose a cheap, simple and intuitive sampling scheme which reduces the number of required training iterations by 20-70% while maintaining the same model accuracy, and which mimics well known resampling techniques under certain conditions.

研究の動機と目的

• Federated Learning における通信と計算コストの削減を、よりスマートなクライアント選択で動機づける。
• AFL を、クライアント上で評価される価値関数を用いてサンプリングを導くフレームワークとして導入する。
• AFL が同じ精度を、はるかに少ない訓練ラウンドで達成できることを示す（20-70% fewer）。
• プライバシー（差分プライバシー）や潜在的な拡張といった実務上の考慮事項を議論する。

提案手法

• 現在のモデル w^(t) を用いて、クライアントデータをオンデバイスで評価する価値関数 V を定義する。
• サーバは選択されたクライアントから valuations {v_k} を収集し、それらを次のラウンドのサンプリング分布へ変換する。
• 自然な選択肢として、損失ベースの評価 v_k = (1 / sqrt(n_k)) l(x_k, y_k; w^(t))。
• 価値をsoftmax 的な機構で確率に変換し、調整パラメータ α1, α2, α3 を用いる。
• 差分プライバシーの観点を組み込み、情報漏洩を防ぐためのプライバシー保護クエリ（例: Sparse Vector）を検討する。
• Reddit および Sticker Intent データセットで AFL を一様ランダムクライアント選択と比較し、同程度の精度でエポック数を20-70%削減することを実験で示す。

実験結果

リサーチクエスチョン

• RQ1 アクティブでモデル情報を用いたクライアント選択は、精度を犠牲にせず連合学習の訓練ラウンド数を削減できるか。
• RQ2 モデル改善に対するクライアントの有用性を最もよく反映するオンデバイスでの評価値はどのように計算すべきか。
• RQ3 差分プライバシーは評価ベースのクライアント選択と全体の性能にどのような影響を与えるか。
• RQ4 AFL は標準的なランダムサンプリングおよびサーバー側再サンプリングと、実務データセットでどう比較されるか。
• RQ5 AFL のサンプリングを左右する調整パラメータは何で、それらは効率と精度にどう影響するか。

主な発見

• AFL は一様クライアント選択と比べて、同等のモデル精度を20-70%の訓練エポック数削減で達成する。
• 損失ベースの評価は有用性の高いクライアントと相関し、収束を加速する。
• AFL のクライアント中心のサンプリングは、Reddit データでのサーバー側データポイント再サンプリングよりも顕著な改善を示す。
• AFL のフレームワークは、オンデバイス評価計算とプライバシー配慮を含む実務的な実現可能性を示す。
• AFL の利得は α1, α2, α3 の調整パラメータと使用される評価関数に依存する。