[論文レビュー] Federated Generalized Bayesian Learning via Distributed Stein Variational Gradient Descent

Rahif Kassab, Osvaldo Simeone|arXiv (Cornell University)|Sep 11, 2020

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本稿では、中央サーバーに配置された相互作用する粒子を用いてグローバル事後分布を近似する非パrametricなフェデレーテッドベイジアン学習フレームワーク、分散型スティン変分勾配降下法（DSVGD）を提案する。局所エージェントによる反復的粒子更新を通じて、通信ラウンド数を削減し、柔軟な通信負荷と収束速度のトレードオフを実現しつつ、信頼性が高く、うまくキャリブレーションされた予測を可能にする。

ABSTRACT

This paper introduces Distributed Stein Variational Gradient Descent (DSVGD), a non-parametric generalized Bayesian inference framework for federated learning. DSVGD maintains a number of non-random and interacting particles at a central server to represent the current iterate of the model global posterior. The particles are iteratively downloaded and updated by one of the agents with the end goal of minimizing the global free energy. By varying the number of particles, DSVGD enables a flexible trade-off between per-iteration communication load and number of communication rounds. DSVGD is shown to compare favorably to benchmark frequentist and Bayesian federated learning strategies, also scheduling a single device per iteration, in terms of accuracy and scalability with respect to the number of agents, while also providing well-calibrated, and hence trustworthy, predictions.

研究の動機と目的

• モバイルヘルスアプリケーションなど小規模なフェデレーテッド学習環境における信頼性が高く、不確実性を考慮したモデルの欠如を解決すること。
• 頻度主義的フェデレーテッド学習（例：FedAvg）が、認識的不確実性のモデリングが欠如しているために過信された予測を生じることを克服すること。
• 通信遅延が学習時間の主要要因である場合、特に小規模モデルにおいて重要な通信ラウンド数の削減。
• 非パrametric推論フレームワークにおける粒子数の調整により、1反復あたりの通信コストと収束速度の間で柔軟なトレードオフを提供すること。
• パラメトリックな変分推論のバイアスを回避し、MCMCサンプリングの遅い収束を避ける、スケーラブルで信頼性の高いフェデレーテッド学習のためのベイジアン推論手法の開発。

提案手法

• DSVGDは、グローバル事後分布を表す非ランダムで相互作用する粒子の集合を中央サーバーで維持する。
• 各通信ラウンドにおいて、1つのエージェントが現在の粒子をダウンロードし、局所的な自由エネルギー関数を最小化するためにスティン変分勾配降下法（SVGD）を用いて粒子を局所的に更新し、更新された粒子をアップロードする。
• 粒子の更新は、事後密度の高い領域へと粒子を押し出すカーネル化された勾配フローによってガイドされ、効率的な非パラメトリック事後分布近似を可能にする。
• 本手法は任意の損失関数をサポートし、指数型分布族を超える柔軟性を持つ一般化ベイジアン推論問題として定式化されている。
• 粒子数を調整することで、1ラウンドあたりの通信負荷と通信ラウンド総数の間のバランスをとることができ、リソース制約のある環境での実用的トレードオフを提供する。
• アルゴリズムはラウンドロビンスケジューリングポリシーを用いて実装され、さまざまなデータ分布を想定した分類および回帰タスクをサポートする。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックで粒子ベースのベイジアン推論フレームワークは、高いモデル精度を維持しつつ、フェデレーテッド学習における通信ラウンド数を削減できるか？
• RQ2 DSVGDは、FedAvg、PVI、DSGLDといった最先端のフェデレーテッド学習手法と比較して、予測精度および不確実性キャリブレーションの面で優れているか？
• RQ3 DSVGDにおける粒子数を、1ラウンドあたりの通信負荷と通信ラウンド数の間の柔軟なトレードオフに使用できる程度はどの程度か？
• RQ4 DSVGDは、健康モニタリングのような安全が重要な応用分野において信頼性のある予測を提供するか？
• RQ5 DSVGDは、さまざまなデータ分布およびモデルサイズのフェデレーテッド環境において、収束速度およびスケーラビリティの面でどの程度の性能を示すか？

主な発見

• DSVGDは、MNISTやFashion-MNISTを含む複数のバイナリ分類および回帰データセットにおいて、FedAvg、PVI、DSGLDよりも高いテスト精度を達成した。
• 通信遅延がボトルネックとなる設定では、DSVGDがベースライン手法と比較して収束に必要な通信ラウンド数を顕著に削減した。
• 最大キャリブレーション誤差（MCE）が低く、信頼性の高いキャリブレーションされた予測を生成した。これは、頻度主義的およびパラメトリックなベイジアンベースラインを上回った。
• 固定された粒子数のもとで、DSVGDはエージェント数やデータの非独立性のレベルの変化に対しても安定した性能を維持し、強靭性を示した。
• 可変な粒子数の使用により、1反復あたりの通信コストと収束速度の間で柔軟なトレードオフが実現でき、粒子数を増やすことでラウンド数を減らす一方で、1ラウンドあたりの負荷を増加させた。
• Year PredictionおよびNaval Propulsionデータセットにおける実験では、DSGLDおよびSGLDよりもDSVGDが低いRMSEを達成し、回帰タスクにおける有効性を確認した。