[论文解读] Samplable Anonymous Aggregation for Private Federated Data Analysis

Kunal Talwar, Shan Wang+35 more|arXiv (Cornell University)|Jul 27, 2023

Cryptography and Data Security被引用 4

一句话总结

本文提出了可采样匿名聚合（SA₂），一种新型密码学原原子，可在几乎与中心可信管理员模型相当的隐私-效用权衡下，实现差分隐私的联邦学习与分析。通过结合客户端采样、多服务器间的秘密共享以及匿名聚合，SA₂在无需单一可信方的前提下实现了强有力的隐私保障，支持在真实系统中可扩展、安全且高效的部署。

ABSTRACT

We revisit the problem of designing scalable protocols for private statistics and private federated learning when each device holds its private data. Locally differentially private algorithms require little trust but are (provably) limited in their utility. Centrally differentially private algorithms can allow significantly better utility but require a trusted curator. This gap has led to significant interest in the design and implementation of simple cryptographic primitives, that can allow central-like utility guarantees without having to trust a central server. Our first contribution is to propose a new primitive that allows for efficient implementation of several commonly used algorithms, and allows for privacy accounting that is close to that in the central setting without requiring the strong trust assumptions it entails. {\em Shuffling} and {\em aggregation} primitives that have been proposed in earlier works enable this for some algorithms, but have significant limitations as primitives. We propose a {\em Samplable Anonymous Aggregation} primitive, which computes an aggregate over a random subset of the inputs and show that it leads to better privacy-utility trade-offs for various fundamental tasks. Secondly, we propose a system architecture that implements this primitive and perform a security analysis of the proposed system. Our design combines additive secret-sharing with anonymization and authentication infrastructures.

研究动机与目标

• 设计一种实用、可扩展且隐私保护的联邦数据分析原原子，以减少对单一可信管理员的依赖。
• 在联邦学习与分析中实现接近中心可信设置下可达到的差分隐私保障。
• 构建一种系统架构，支持在设备间实现高效、匿名且可采样的聚合，同时最小化信任假设。
• 通过更低的通信开销和更紧致的隐私会计，克服现有方法（如安全多方计算、可信执行环境和同态加密）的局限性。
• 通过详细的架构与威胁模型分析，证明所提出系统的可行性和安全性。

提出的方法

• 提出可采样匿名聚合（SA₂）作为新的理想功能，支持在保留客户端匿名性的同时对客户端的随机子集进行聚合。
• 基于Prio系统采用双服务器分trust模型，客户端使用加法秘密共享将数据分发至多个服务器。
• 引入客户端侧采样，使系统能够对设备的随机子集计算聚合结果，提升隐私保护并降低计算负载。
• 采用匿名化与设备认证机制，防止去匿名化攻击并确保输入完整性。
• 对聚合输出应用差分隐私，实现接近中心可信管理员模型中“中心时刻会计”方法的隐私边界。
• 设计一种避免多轮交互的系统架构，最大限度减少客户端流失与通信开销。

实验结果

研究问题

• RQ1 能否设计一种联邦聚合原原子，在无需完全信任单一服务器的前提下，实现接近中心可信管理员模型的差分隐私保障？
• RQ2 如何将客户端匿名性与数据采样整合进一个安全、可扩展且高效的联邦学习与分析系统？
• RQ3 支持此类原原子在大规模环境中实际部署所需的系统架构与密码学组件是什么？
• RQ4 所提出的原原子能否在保持强安全保证的同时，实现比现有联邦学习协议更紧致的隐私会计？
• RQ5 如何在不损害性能或隐私的前提下，将信任分布于多个服务器之间？

主要发现

• SA₂原原子可实现接近中心可信管理员设置的差分隐私直方图与联邦学习，其隐私-效用权衡几乎无法与中心模型区分。
• 该系统实现了接近中心设置中“时刻会计”的隐私边界，是首个达成此目标的联邦原原子。
• 该架构可在一年内支持超过220亿台设备的贡献聚合，证明了其在真实世界中的可扩展性。
• 通过客户端侧采样与匿名聚合的结合，实现了更紧致的隐私会计，并降低了模型投毒攻击的风险。
• 只要至少一个服务器保持诚实，系统对单个服务器被攻破具有弹性，确保在分trust模型下具备强安全性。
• 该方法避免了多轮客户端交互，降低了因客户端流失带来的复杂性，提升了部署可行性。