[论文解读] User-Level Privacy-Preserving Federated Learning: Analysis and Performance Optimization

Kang Wei, Jun Li+5 more|arXiv (Cornell University)|Feb 29, 2020

Privacy-Preserving Technologies in Data参考文献 38被引用 12

一句话总结

本文提出了一种用户级差分隐私（UDP）框架，用于联邦学习，通过向模型更新中注入噪声来增强隐私保护，确保在用户层面实现局部差分隐私（LDP）。该方法引入了一种通信轮次折扣机制（CRD），可自适应地减少训练轮次以优化收敛速度，显著提升了在给定隐私预算下的模型性能与效率。

ABSTRACT

Federated learning (FL), as a type of collaborative machine learning framework, is capable of preserving private data from mobile terminals (MTs) while training the data into useful models. Nevertheless, from a viewpoint of information theory, it is still possible for a curious server to infer private information from the shared models uploaded by MTs. To address this problem, we first make use of the concept of local differential privacy (LDP), and propose a user-level differential privacy (UDP) algorithm by adding artificial noise to the shared models before uploading them to servers. According to our analysis, the UDP framework can realize $(ε_{i}, δ_{i})$-LDP for the $i$-th MT with adjustable privacy protection levels by varying the variances of the artificial noise processes. We then derive a theoretical convergence upper-bound for the UDP algorithm. It reveals that there exists an optimal number of communication rounds to achieve the best learning performance. More importantly, we propose a communication rounds discounting (CRD) method. Compared with the heuristic search method, the proposed CRD method can achieve a much better trade-off between the computational complexity of searching and the convergence performance. Extensive experiments indicate that our UDP algorithm using the proposed CRD method can effectively improve both the training efficiency and model quality for the given privacy protection levels.

研究动机与目标

• 解决联邦学习中因好奇的服务器可能从共享的模型更新中推断出敏感数据而导致的隐私泄露问题。
• 通过噪声注入，形式化联邦学习中的用户级差分隐私（UDP），实现可调节隐私水平的$(\epsilon_i, \delta_i)$-LDP。
• 在给定隐私预算下，识别出能最大化学习性能的最优通信轮次数。
• 设计一种自适应通信轮次减少机制（CRD），在不增加计算开销的前提下提升收敛性能。
• 在真实联邦学习场景中评估隐私、模型质量与通信效率之间的权衡。

提出的方法

• 提出一种UDP算法，在上传前向模型更新中添加均值为零的高斯噪声，通过调节噪声方差以实现每个用户所需的$(\epsilon_i, \delta_i)$-LDP。
• 推导出模型收敛性的理论上限，表明存在一个最优通信轮次数$T$可实现最佳性能。
• 提出一种CRD方法，当收敛停滞时动态减少通信轮次数，从而提升效率。
• 采用折扣因子$\beta$控制$T$的减少速率，实验表明$\beta=0.9$可获得优异性能。
• 采用启发式搜索基线进行对比，证明CRD在收敛性与复杂度之间具有更优的平衡能力。
• 在非独立同分布（non-IID）和不平衡数据分布下，使用CNN与MLP模型在CIFAR-10与MNIST数据集上进行实验，验证方法的鲁棒性。

实验结果

研究问题

• RQ1 能否通过噪声注入在联邦学习中有效实施用户级差分隐私，同时保持模型的实用性？
• RQ2 在给定隐私预算下，使收敛性能最大化的最优通信轮次数$T$是多少？
• RQ3 与启发式或固定轮次策略相比，所提出的CRD方法在提升收敛性能方面表现如何？
• RQ4 折扣因子$\beta$对通信效率与模型准确率之间权衡的影响是什么？
• RQ5 CRD方法是否可泛化至不同数据分布与模型架构？

主要发现

• 通过调节所添加噪声的方差，UDP算法能够实现$(\epsilon_i, \delta_i)$-局部差分隐私，支持按用户调节隐私水平。
• 存在一个最优通信轮次数$T$，可使模型收敛性能达到最大，验证了自适应控制的必要性。
• 与基线UDP及Lei的方法相比，所提出的CRD方法显著提升了收敛速度与最终模型准确率，尤其在$\beta=0.9$时表现突出。
• 较大的折扣因子$\beta$会导致$T$衰减更慢，从而带来更好的收敛性能，但通信轮次消耗更高。
• 在CIFAR-10与MNIST上的实验表明，在非IID与不平衡数据设置下，测试准确率与损失减少均表现出一致的提升。
• 通信轮次与收敛性能之间的权衡可量化，$\beta=0.8$在测试配置中实现了最佳平衡。