[論文レビュー] Concentrated Differentially Private and Utility Preserving Federated Learning

Rui Hu, Yuanxiong Guo+1 more|arXiv (Cornell University)|Mar 30, 2020

Privacy-Preserving Technologies in Data参考文献 22被引用数 8

ひとこと要約

本論文は、ゼロ濃縮微分プライバシー（zCDP）とローカル勾配ノイズの組み合わせに加え、セキュアアグリゲーションを用いることで、完全に信頼できるサーバーを必要とせずに強力なプライバシー保証を達成する、新しいフェデレーテッドラーニングフレームワークを提案する。従来の微分プライバシー手法に比べ、モデルの有効性を著しく向上させ、DP-SGDと比較して同じプライバシー予算下でも収束が速く、精度が高くなる。

ABSTRACT

Federated learning is a machine learning setting where a set of edge devices collaboratively train a model under the orchestration of a central server without sharing their local data. At each communication round of federated learning, edge devices perform multiple steps of stochastic gradient descent with their local data and then upload the computation results to the server for model update. During this process, the challenge of privacy leakage arises due to the information exchange between edge devices and the server when the server is not fully trusted. While some previous privacy-preserving mechanisms could readily be used for federated learning, they usually come at a high cost on convergence of the algorithm and utility of the learned model. In this paper, we develop a federated learning approach that addresses the privacy challenge without much degradation on model utility through a combination of local gradient perturbation, secure aggregation, and zero-concentrated differential privacy (zCDP). We provide a tight end-to-end privacy guarantee of our approach and analyze its theoretical convergence rates. Through extensive numerical experiments on real-world datasets, we demonstrate the effectiveness of our proposed method and show its superior trade-off between privacy and model utility.

研究の動機と目的

• 中央サーバーが完全に信頼できない状況におけるフェデレーテッドラーニングにおけるプライバシー漏洩の課題に対処すること。
• フェデレーテッドラーニングにおける微分プライバシー機構が引き起こす有効性の低下を軽減すること。
• ゼロ濃縮微分プライバシー（zCDP）を用いて、エンドツーエンドのプライバシー損失をきめ細かく束縛する、きついプライバシー保証を提供すること。
• ローカル勾配ノイズの追加とセキュアアグリゲーションの統合により、微分プライバシー下でのモデルの収束性と精度を向上させること。
• 提案されたフレームワーク下で、凸および非凸の損失関数に対して、きめ細やかな理論的収束解析を確立すること。

提案手法

• 各エッジデバイスでローカル勾配ノイズを適用し、勾配を送信する前にノイズを追加することで、微分プライバシーを確保する。
• サーバーでプライバシーを保ちつつ勾配を統合するセキュアアグリゲーションプロトコルを採用し、合計ノイズの大きさを最小限に抑える。
• 従来の(ε,δ)-DPに比べて必要なノイズ量を削減できるよう、エンドツーエンドのプライバシー損失をきめ細かく束縛するゼロ濃縮微分プライバシー（zCDP）を活用する。
• 通信ラウンドごとに複数回のローカルSGDステップを統合することで、総通信ラウンド数を削減し、学習効率を向上させる。
• 提案されたプライバシー保護フレームワーク下で、凸および非凸最適化問題の理論的収束レートを導出する。
• 複数のトレーニングラウンドにわたる累積プライバシー予算を計算するため、zCDPに特化した合成定理を用いる。

実験結果

リサーチクエスチョン

• RQ1 完全に信頼できるサーバーに依存せず、強力なプライバシー保証を達成できるフェデレーテッドラーニングシステムは構築可能か？
• RQ2 微分プライバシーを適用したフェデレーテッドラーニングにおける、プライバシーとモデル有効性のトレードオフをどのように改善できるか？
• RQ3 セキュアアグリゲーションは、微分プライバシーを適用したフェデレーテッドラーニングにおけるノイズ増幅とモデル精度にどのような影響を与えるか？
• RQ4 フェデレーテッド環境において、標準的な(ε,δ)-DPと比較して、zCDPの使用がプライバシー-有効性トレードオフをどのように改善するか？
• RQ5 提案手法の理論的収束特性は、凸および非凸の損失関数の両方においてどのように示されるか？

主な発見

• 同じプライバシー予算下で、DP-SGDと比較して収束が速く、モデル精度が高くなることが確認され、有効性の向上が示された。
• セキュアアグリゲーションの導入により、1更新あたりの有効なノイズが低減され、セキュアアグリゲーションを適用しないバージョンと比較して、テスト精度が著しく向上した。
• ロジスティック回帰において、低プライバシー予算（例：ε=1）下でも高い精度を維持でき、実世界のデータセットではテスト精度が90％を超えた。
• 深層ニューラルネットワークでは、50回の通信ラウンド後にzCDPのε ≈ 1.5を維持しながら、CIFAR-10で約85％の競争力のあるテスト精度を達成した。
• 理論的解析により、非凸目的関数では定常点への収束が保証され、凸関数では線形収束が示され、期待される勾配ノルムの明示的バインドが得られた。
• プライバシー-有効性トレードオフの分析から、本手法はさまざまなε値においてベースライン手法を一貫して上回り、あらゆるプライバシー水準で精度の明確な向上が確認された。