[论文解读] Concentrated Differentially Private and Utility Preserving Federated Learning

Rui Hu, Yuanxiong Guo+1 more|arXiv (Cornell University)|Mar 30, 2020

Privacy-Preserving Technologies in Data参考文献 22被引用 8

一句话总结

该论文提出了一种新颖的联邦学习框架，通过结合零集中微分隐私（zCDP）与本地梯度扰动及安全聚合，实现了强大的隐私保障，显著提升了现有差分隐私方法的模型效用，且无需完全可信的服务器。与 DP-SGD 相比，该方法在相同隐私预算下实现了更快的收敛速度和更高的准确率。

ABSTRACT

Federated learning is a machine learning setting where a set of edge devices collaboratively train a model under the orchestration of a central server without sharing their local data. At each communication round of federated learning, edge devices perform multiple steps of stochastic gradient descent with their local data and then upload the computation results to the server for model update. During this process, the challenge of privacy leakage arises due to the information exchange between edge devices and the server when the server is not fully trusted. While some previous privacy-preserving mechanisms could readily be used for federated learning, they usually come at a high cost on convergence of the algorithm and utility of the learned model. In this paper, we develop a federated learning approach that addresses the privacy challenge without much degradation on model utility through a combination of local gradient perturbation, secure aggregation, and zero-concentrated differential privacy (zCDP). We provide a tight end-to-end privacy guarantee of our approach and analyze its theoretical convergence rates. Through extensive numerical experiments on real-world datasets, we demonstrate the effectiveness of our proposed method and show its superior trade-off between privacy and model utility.

研究动机与目标

• 解决在中心服务器不可完全信任的情况下联邦学习中的隐私泄露问题。
• 降低差分隐私机制在联邦学习中导致的效用下降。
• 利用零集中微分隐私（zCDP）提供紧密的端到端隐私保障。
• 通过结合安全聚合与本地梯度扰动，提升差分隐私下的模型收敛速度与准确率。
• 为所提出的框架在凸与非凸损失函数下的优化问题建立严格的理论收敛性分析。

提出的方法

• 在每个边缘设备上应用本地梯度扰动，即在梯度传输前添加噪声，以确保差分隐私。
• 采用安全聚合协议，通过在服务器端以隐私保护方式聚合梯度，最小化总噪声幅度。
• 利用零集中微分隐私（zCDP）紧密约束端到端的隐私损失，相比传统 (ε,δ)-DP 所需的噪声更少。
• 在每轮通信中集成多个本地 SGD 步骤，以减少总通信轮次，提升训练效率。
• 推导出在所提隐私保护框架下，凸与非凸优化问题的理论收敛速率。
• 采用专为 zCDP 设计的组合定理，计算多轮训练中的累积隐私预算。

实验结果

研究问题

• RQ1 联邦学习系统是否能在不依赖完全可信服务器的情况下实现强大的隐私保障？
• RQ2 在差分隐私联邦学习中，如何改善隐私与模型效用之间的权衡？
• RQ3 安全聚合对差分隐私联邦学习中噪声放大与模型准确率的影响如何？
• RQ4 与标准 (ε,δ)-DP 相比，zCDP 在联邦设置中如何改善隐私-效用权衡？
• RQ5 所提方法在凸与非凸损失函数下的理论收敛特性是什么？

主要发现

• 在相同隐私预算下，所提方法相比 DP-SGD 实现了更快的收敛速度与更高的模型准确率，表现出更优的效用。
• 采用安全聚合可降低每轮更新的有效噪声，相比无安全聚合的变体，测试准确率显著提升。
• 对于逻辑回归，即使在低隐私预算（如 ε=1）下，该方法仍能保持高准确率（在真实数据集上测试准确率超过 90%）。
• 对于深度神经网络，该方法在 50 轮通信后仍能保持 zCDP 保护（ε ≈ 1.5），并实现具有竞争力的测试准确率（如 CIFAR-10 上约 85%）。
• 理论分析证实，对于非凸目标函数可收敛至驻点，对于凸目标函数则实现线性收敛，且对期望梯度范数给出了明确的上界。
• 隐私-效用权衡分析表明，该方法在所有 ε 值下均持续优于基线方法，在所有隐私级别下均实现了可测量的准确率提升。