[论文解读] The Fundamental Price of Secure Aggregation in Differentially Private Federated Learning

Weining Chen, Christopher A. Choquette-Choo+2 more|arXiv (Cornell University)|Mar 7, 2022

Privacy-Preserving Technologies in Data被引用 11

一句话总结

本论文确定了在差分隐私联邦学习中安全聚合的基本通信成本，证明了在实现中心化差分隐私（DP）精度时，每个客户端所需的通信量为 $\tilde{O}(\text{min}(n^2\varepsilon^2, d))$ 位，且该通信量既必要又充分。论文提出了一种基于稀疏随机投影的线性压缩方案，并结合分布式离散拉普拉斯机制，在保持模型效用的同时，相比先前方法将通信量降低了数量级。

ABSTRACT

We consider the problem of training a $d$ dimensional model with distributed differential privacy (DP) where secure aggregation (SecAgg) is used to ensure that the server only sees the noisy sum of $n$ model updates in every training round. Taking into account the constraints imposed by SecAgg, we characterize the fundamental communication cost required to obtain the best accuracy achievable under $\varepsilon$ central DP (i.e. under a fully trusted server and no communication constraints). Our results show that $ ilde{O}\left( \min(n^2\varepsilon^2, d) ight)$ bits per client are both sufficient and necessary, and this fundamental limit can be achieved by a linear scheme based on sparse random projections. This provides a significant improvement relative to state-of-the-art SecAgg distributed DP schemes which use $ ilde{O}(d\log(d/\varepsilon^2))$ bits per client. Empirically, we evaluate our proposed scheme on real-world federated learning tasks. We find that our theoretical analysis is well matched in practice. In particular, we show that we can reduce the communication cost significantly to under $1.2$ bits per parameter in realistic privacy settings without decreasing test-time performance. Our work hence theoretically and empirically specifies the fundamental price of using SecAgg.

研究动机与目标

• 确定在使用安全聚合（SecAgg）的分布式差分隐私（DP）设置下，实现与中心化DP相同模型精度所需的最低通信成本。
• 识别现有与SecAgg兼容的方案是否为通信最优，或存在通信冗余。
• 设计一种与SecAgg兼容的线性压缩方案，以最小化通信量，同时保持DP保证和模型效用。
• 通过理论分析与实证验证，证明所提方案在不牺牲测试性能的前提下，显著降低了通信成本。

提出的方法

• 提出一种基于稀疏随机投影（具体为计数-哈希）的线性压缩方案，用于在传输前压缩客户端更新。
• 将该压缩方案与分布式离散高斯（DDG）机制结合，以确保差分隐私。
• 使用安全聚合协议，使服务器仅能观测到客户端更新的噪声和，从而保护客户端级别的隐私。
• 利用集中极限定理和尾部概率界分析压缩和噪声引入的误差，以确保隐私与精度。
• 通过随机投影和噪声注入的随机性分析，推导出通信成本的理论边界。
• 在真实联邦学习任务上对方案进行实证评估，以验证理论结论及通信节省效果。

实验结果

研究问题

• RQ1 在使用安全聚合的分布式设置下，实现中心化DP精度的通信成本的理论下限是多少？
• RQ2 现有与SecAgg兼容的DP方案的通信成本是否最优，还是可以显著降低？
• RQ3 基于稀疏随机投影的线性压缩方案能否在保持差分隐私和模型效用的前提下实现最优通信效率？
• RQ4 在所提方案下，通信成本如何随客户端数量 $n$、隐私预算 $\varepsilon$ 和模型维度 $d$ 变化？
• RQ5 在现实隐私设置下，通信量可被降低到何种程度而不损害测试阶段的模型性能？

主要发现

• 在使用SecAgg实现中心化DP精度时，每个客户端的基本通信成本为 $\tilde{O}(\text{min}(n^2\varepsilon^2, d))$ 位，该通信量既必要又充分。
• 所提方案在现实隐私设置下将通信成本降低至每参数低于1.2位，显著低于先前工作中报告的每参数16位。
• 该通信量的降低通过将稀疏随机投影与分布式离散高斯机制结合实现，从而在SecAgg约束下实现最优压缩。
• 理论分析表明，通信成本在 $d$ 上呈次线性增长，在 $n\varepsilon$ 上呈二次方增长，反映出在高隐私设置下具有更高的可压缩性。
• 在真实联邦学习任务上的实证结果表明，理论预测与实际表现高度一致，且测试精度未出现下降。
• 结果表明，先前采用 $\tilde{O}(d\log(d/\varepsilon^2))$ 位每客户端的方案严格次优，而所提方法已达到信息论极限。