[论文解读] Randomized Quantization is All You Need for Differential Privacy in Federated Learning

Yeojoon Youn, Zihao Hu+2 more|arXiv (Cornell University)|Jun 20, 2023

Privacy-Preserving Technologies in Data被引用 7

一句话总结

本文提出在联邦学习中使用随机量化机制（RQM），通过对量化水平进行两级随机化与随机舍入实现Renyi差分隐私，并在隐私-精度权衡方面优于Poisson Binomial Mechanism（PBM）。

ABSTRACT

Federated learning (FL) is a common and practical framework for learning a machine model in a decentralized fashion. A primary motivation behind this decentralized approach is data privacy, ensuring that the learner never sees the data of each local source itself. Federated learning then comes with two majors challenges: one is handling potentially complex model updates between a server and a large number of data sources; the other is that de-centralization may, in fact, be insufficient for privacy, as the local updates themselves can reveal information about the sources' data. To address these issues, we consider an approach to federated learning that combines quantization and differential privacy. Absent privacy, Federated Learning often relies on quantization to reduce communication complexity. We build upon this approach and develop a new algorithm called the extbf{R}andomized extbf{Q}uantization extbf{M}echanism (RQM), which obtains privacy through a two-levels of randomization. More precisely, we randomly sub-sample feasible quantization levels, then employ a randomized rounding procedure using these sub-sampled discrete levels. We are able to establish that our results preserve ``Renyi differential privacy'' (Renyi DP). We empirically study the performance of our algorithm and demonstrate that compared to previous work it yields improved privacy-accuracy trade-offs for DP federated learning. To the best of our knowledge, this is the first study that solely relies on randomized quantization without incorporating explicit discrete noise to achieve Renyi DP guarantees in Federated Learning systems.

研究动机与目标

• 在联邦学习中激励隐私性与通信效率，并说明随机量化如何提升隐私保障。
• 引入随机量化机制（RQM）作为发布梯度信息的两级随机化方法。
• 为 RQM 提供 Renyi 差分隐私保证并分析其在本地（每设备）上的强度。
• 在实证中证明 RQM 相较于以往基于离散噪声的方法，尤其 PBM，具有更好的隐私-实用性权衡。

提出的方法

• 提出随机量化机制（RQM），将梯度映射到一个随机离散网格。
• 在对输入值应用随机舍入之前，随机对子集可行的量化水平进行抽样。
• 对梯度向量的每个坐标独立应用 RQM，并与标准联邦 DP-SGD（算法1）结合。
• 给出 RQM 的理论 Renyi DP 界，显示其对参数（c, Δ, m, q）和 α 的依赖，并在 α→∞ 时保有对 (ε,0)-DP 的保证。
• 指出 RQM 相较于 PBM，具有更灵活的超参数（Δ, q, m），从而实现改进的隐私-实用性权衡。
• 给出将 RQM 与 PBM 在 EMNIST 上进行对比的实验结果，突出 RQM 在隐私保障和准确性方面的提升。

(a) An example of sub-sampling quantization levels for RQM.

实验结果

研究问题

• RQ1 随机量化是否即可在不使用离散噪声的情况下，在联邦学习中实现 Renyi 差分隐私？
• RQ2 在相似通信预算下，RQM 是否提供比 Poisson Binomial Mechanism 更紧的 Renyi-DP 保证？
• RQ3 将 RQM 集成到联邦 DP-SGD 是否在真实任务（如 EMNIST）上改进隐私-精度权衡，相较于 PBM？
• RQ4 RQM 的超参数（Δ, q, m）对隐私保障和模型性能有何影响？

主要发现

• RQM 在本地（每设备）层面实现 Renyi 差分隐私保证，并可扩展到标准 DP，当 α→∞ 时。
• 数值隐私分析表明 RQM 在不同的 n 与 α 设置下提供的 Renyi 散度低于 PBM。
• 在 EMNIST 上的联邦学习实验表明，基于 DP-SGD 的 RQM 优于 PBM，在损失降低和准确性方面均有提升。
• 三种不同的 (Δ, q) 实例化的 RQM 相较于 PBM，获得更好的隐私-精度权衡，接近无噪声剪裁 SGD 的性能，同时保持隐私性。
• 在多组超参数配置下，RQM 展现出相较 PBM 的隐私保障与建模性能的提升。

(b) Distribution of outputs $Q(x)$ under PBM and RQM.