[論文レビュー] BAFFLE: A Baseline of Backpropagation-Free Federated Learning

Haozhe Feng, Tianyu Pang+4 more|arXiv (Cornell University)|Jan 28, 2023

Privacy-Preserving Technologies in Data被引用数 6

ひとこと要約

BAFFLEは、勾配計算の代わりにランダムな摂動を用いた複数回のフォワードパスによって勾配を推定するバックプロパゲーションフリーなフェデレーテッドラーニングフレームワークを提案する。計算メモリの大幅な削減により、リソース制限のあるエッジデバイスや信頼実行環境（TEE）へのデプロイが可能となり、妥当なモデル精度を達成する。

ABSTRACT

Federated learning (FL) is a general principle for decentralized clients to train a server model collectively without sharing local data. FL is a promising framework with practical applications, but its standard training paradigm requires the clients to backpropagate through the model to compute gradients. Since these clients are typically edge devices and not fully trusted, executing backpropagation on them incurs computational and storage overhead as well as white-box vulnerability. In light of this, we develop backpropagation-free federated learning, dubbed BAFFLE, in which backpropagation is replaced by multiple forward processes to estimate gradients. BAFFLE is 1) memory-efficient and easily fits uploading bandwidth; 2) compatible with inference-only hardware optimization and model quantization or pruning; and 3) well-suited to trusted execution environments, because the clients in BAFFLE only execute forward propagation and return a set of scalars to the server. Empirically we use BAFFLE to train deep models from scratch or to finetune pretrained models, achieving acceptable results. Code is available in https://github.com/FengHZ/BAFFLE.

研究の動機と目的

• リソース制限のあるエッジデバイスにおけるフェデレーテッドラーニングにおけるバックプロパゲーションの計算およびメモリのオーバーヘッドを軽減すること。
• クライアントにモデルパラメータを公開する必要をなくすことで、フェデレーテッドラーニングにおけるホワイトボックス攻撃の脆弱性を軽減すること。
• 推論専用ハードウェア、モデルの量子化・プルーニング、信頼実行環境（TEE）との互換性を実現すること。
• 勾配計算への依存度を低減するため、フェデレーテッドラーニングにおけるゼロオーダー最適化の実現可能性を検討すること。

提案手法

• 有限差分近似を用いて、ランダムな摂動を加えたモデル重みに対する複数回のフォワードパスによって勾配を推定する。
• 各クライアントは、共有されたランダムシードから得られるランダムノイズベクトル $ \bm{\nu}_k $ を用いて、グローバルモデルパラメータ $ \boldsymbol{W} $ を $ K $ 回摂動する。
• クライアントは、ローカルデータ上でフォワード推論を実行し、損失の差分 $ \triangle \tilde{\theta} = \tilde{\theta}(\boldsymbol{W} + \bm{\nu}_k) - \tilde{\theta}(\boldsymbol{W} - \bm{\nu}_k) $ を計算する。
• サーバーは、これらのスカラ損失差分を安全な集約を用いて集約し、全勾配ベクトルを推定する。
• 各損失差分が1つの浮動小数点数であるため、通信帯域幅を $ K $ の調整によって制御可能である。
• レイヤー単位の計算スライシングおよびキーワイズ最適化を活用し、エッジデバイスにおける静的および動的メモリ使用量を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 フォワードパスと有限差分による勾配推定に依存するバックプロパゲーションフリーなフェデレーテッドラーニングが、実用的に訓練可能かどうか。
• RQ2 エッジデバイスにおける標準的なバックプロパゲーションベースのFLと比較して、BAFFLEがどれほど計算およびメモリのオーバーヘッドを低減するか。
• RQ3 スクラッチから訓練するか、事前学習済みモデルの微調整を行う場合、BAFFLEのモデル精度および収束性はどの程度か。
• RQ4 最小限のメモリ使用量とモデルパラメータの公開が不要であるため、BAFFLEが信頼実行環境（TEE）に安全に統合可能かどうか。
• RQ5 スカラ損失差分 $ \triangle \tilde{\theta} $ から生じる情報漏洩リスクはどの程度か。標準的な推論ベースの攻撃と比較してどうか。

主な発見

• BAFFLEは、MNIST、CIFAR-10/100、OfficeHomeデータセットにおいて、最適でないが受け入れ可能な性能を達成しており、ImageNet事前学習済みMobileNetを微調整する際、標準的なFLと比較して3%〜5%以内の精度を達成する。
• 計算グラフをレイヤー単位にスライスすることで、バックプロパゲーションの5%〜10%にまでメモリ使用量を削減し、キーワイズ最適化によりさらに低減（例：MobileNetで約1%、64MB）する。
• 低メモリ使用量のおかげで、BAFFLEはTEEと互換性がある。典型的なTEE制限（例：Intel SGXでは90MB）に収まり、約64MBのメモリ使用量を達成する。
• 実験的結果から、実データとランダムノイズからの損失差分 $ \triangle \tilde{\theta} $ は区別がつかないことが示され、メンバーーシップ攻撃およびモデルインバージョン攻撃に対する耐性があると考えられる。
• 適切なトレーニング戦略（例：トランスファー学習）を用いることで、OfficeHomeデータセットでは $ K $ を20にまで低減可能となり、バックプロパゲーションベースのFLの計算コストの約 $ \frac{K}{5} $ 倍にまで削減できる。
• フォワードパスによるゼロオーダー最適化が、特にバックプロパゲーションをサポートしないエッジデバイスにおいてフェデレーテッドラーニングに実用的であることが示された。