[論文レビュー] Randomized Quantization is All You Need for Differential Privacy in Federated Learning

Yeojoon Youn, Zihao Hu+2 more|arXiv (Cornell University)|Jun 20, 2023

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

要約: 本論文は連合学習のための Randomized Quantization Mechanism (RQM) を導入し、量子化レベルの2段階のランダム化とランダム化丸めによって Renyi 微分プライバシーを達成し、PBM に比べてプライバシー-精度のトレードオフを改善することを示す。

ABSTRACT

Federated learning (FL) is a common and practical framework for learning a machine model in a decentralized fashion. A primary motivation behind this decentralized approach is data privacy, ensuring that the learner never sees the data of each local source itself. Federated learning then comes with two majors challenges: one is handling potentially complex model updates between a server and a large number of data sources; the other is that de-centralization may, in fact, be insufficient for privacy, as the local updates themselves can reveal information about the sources' data. To address these issues, we consider an approach to federated learning that combines quantization and differential privacy. Absent privacy, Federated Learning often relies on quantization to reduce communication complexity. We build upon this approach and develop a new algorithm called the extbf{R}andomized extbf{Q}uantization extbf{M}echanism (RQM), which obtains privacy through a two-levels of randomization. More precisely, we randomly sub-sample feasible quantization levels, then employ a randomized rounding procedure using these sub-sampled discrete levels. We are able to establish that our results preserve ``Renyi differential privacy'' (Renyi DP). We empirically study the performance of our algorithm and demonstrate that compared to previous work it yields improved privacy-accuracy trade-offs for DP federated learning. To the best of our knowledge, this is the first study that solely relies on randomized quantization without incorporating explicit discrete noise to achieve Renyi DP guarantees in Federated Learning systems.

研究の動機と目的

• 連合学習におけるプライバシーと通信効率を促進し、ランダム化量子化がプライバシー保証をどのように強化できるかを検討する。
• グラデエント情報を公開するための二段階ランダム化アプローチとして Randomized Quantization Mechanism (RQM) を導入する。
• RQM に対する Renyi 微分プライバシー保証を提供し、局所的（デバイス毎）の強さを分析する。
• 従来の離散ノイズベース手法、特に PBM に比べて RQM がより良いプライバシー-精度トレードオフを生み出すことを実証的に示す。

提案手法

• グラデエントをランダム化された離散グリッドへ写像する Randomized Quantization Mechanism (RQM) を提案する。
• 入力値に対してランダム化丸めを適用する前に、適用可能な量子化レベルをランダムにサブサンプルする。
• RQM を勾配ベクトルの各座標に独立に適用し、標準的な連合 DP-SGD（アルゴリズム 1）と統合する。
• RQM の理論的 Renyi DP 境界を提供し、パラメータ (c, Δ, m, q) および α に依存することを示し、α→∞ の場合の (ε,0)-DP への保証を拡張する。
• RQM は PBM よりも柔軟なハイパーパラメータ Δ, q, m を提供し、プライバシー-有用性のトレードオフを改善できることを示す。
• EMNIST に対する PBM との比較実験を提示し、RQM に基づく DP-SGD がより良いプライバシー保証と高い精度を示す。

(a) An example of sub-sampling quantization levels for RQM.

実験結果

リサーチクエスチョン

• RQ1 ランダム化量子化だけで、添加的な離散ノイズを用いずに連合学習で Renyi 微分プライバシーを達成できるか？
• RQ2 同等の通信予算の下で、Randomized Quantization Mechanism は Poisson Binomial Mechanism よりも厳密な Renyi-DP 保証を提供するか？
• RQ3 RQM を連合 DP-SGD に組み込むと、現実的なタスク（例：EMNIST）で PBM と比べて精度-プライバシーのトレードオフが改善されるか？
• RQ4 RQM のハイパーパラメータ Δ, q, m がプライバシー保証とモデル性能に与える影響は？

主な発見

• RQM は局所レベル（デバイス毎）で Renyi 微分プライバシー保証を達成し、α→∞ の場合には標準の DP へ拡張される。
• 数値的なプライバシー分析は、さまざまな n および α 設定において PBM よりも RQM が低い Renyi 発散を提供することを示す。
• EMNIST における連合学習の実験では、RQM ベースの DP-SGD が PBM よりも損失低減と精度の双方で優れている。
• Δ、q が異なる三つの RQM の具体化は、PBM よりも優れたプライバシー-精度トレードオフを達成し、ノイズなしクリップ SGD の性能に近づきつつプライバシーを維持する。
• 複数のハイパーパラメータ構成で PBM に対して改善されたプライバシー保証とモデリング性能を示す。

(b) Distribution of outputs $Q(x)$ under PBM and RQM.