[论文解读] DP-Cryptography: Marrying Differential Privacy and Cryptography in Emerging Applications

Sameer Wagh, Xi He+2 more|arXiv (Cornell University)|Apr 19, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用 6

一句话总结

本文提出了 DP-Cryptography，一种将差分隐私与密码学原语相结合的新范式，旨在在保持强安全性的前提下弥合本地差分隐私（LDP）中的准确率差距。通过放松密码学安全性以允许差分私密泄露，该范式使高性能、隐私保护的系统成为可能，其性能优于传统LDP，并适用于安全计算、匿名通信和加密数据库等场景。

ABSTRACT

Differential privacy (DP) has arisen as the state-of-the-art metric for quantifying individual privacy when sensitive data are analyzed, and it is starting to see practical deployment in organizations such as the US Census Bureau, Apple, Google, etc. There are two popular models for deploying differential privacy - standard differential privacy (SDP), where a trusted server aggregates all the data and runs the DP mechanisms, and local differential privacy (LDP), where each user perturbs their own data and perturbed data is analyzed. Due to security concerns arising from aggregating raw data at a single server, several real world deployments in industry have embraced the LDP model. However, systems based on the LDP model tend to have poor utility - "a gap" in the utility achieved as compared to systems based on the SDP model. In this work, we survey and synthesize emerging directions of research at the intersection of differential privacy and cryptography. First, we survey solutions that combine cryptographic primitives like secure computation and anonymous communication with differential privacy to give alternatives to the LDP model that avoid a trusted server as in SDP but close the gap in accuracy. These primitives introduce performance bottlenecks and necessitate efficient alternatives. Second, we synthesize work in an area we call "DP-Cryptography" - cryptographic primitives that are allowed to leak differentially private outputs. These primitives have orders of magnitude better performance than standard cryptographic primitives. DP-cryptographic primitives are perfectly suited for implementing alternatives to LDP, but are also applicable to scenarios where standard cryptographic primitives do not have practical implementations. Through this unique lens of research taxonomy, we survey ongoing research in these directions while also providing novel directions for future research.

研究动机与目标

• 解决标准差分隐私（SDP）与本地差分隐私（LDP）之间存在的显著效用差距，其中LDP为更强的信任假设而牺牲准确率。
• 探索可消除SDP中对可信服务器依赖的密码学解决方案，同时在效用上优于LDP。
• 提出并形式化‘DP-密码学’的概念——即泄露差分私密输出的密码学原语，以实现数量级的性能提升。
• 在差分隐私与密码学的交叉领域识别新的研究方向，特别是在安全计算、匿名通信和私有数据分析方面。
• 提出新兴隐私保护系统的分类法，并为在复杂部署模型中设计高效、差分私密协议提出新机制。

提出的方法

• 综述并整合现有将差分隐私与密码学原语（如安全多方计算（MPC）、不经意访问内存（ORAM）和混洗网络（mixnets））结合的研究工作。
• 提出一类新型密码学原语——DP-密码学原语——其可控的、差分私密的泄露可提升性能，同时不损害隐私保证。
• 分析DP-密码学系统中隐私、效用与性能之间的权衡空间，特别是在加密数据库和零知识证明等场景中。
• 通过理论分析表明，DP-密码学原语在保持差分隐私的前提下，可实现比标准密码学原语更高的效率。
• 提出一个框架，用于设计利用DP-密码学替代或增强LDP的协议，适用于遥测和诊断等实际部署场景。
• 形式化通过差分隐私放松密码学安全性的方法，从而支持新型高效且可证明私密的构造。

实验结果

研究问题

• RQ1 能否放松密码学原语，使其泄露差分私密输出，同时保持强隐私保证并实现显著的性能提升？
• RQ2 在差分隐私下，基于混洗网络的系统中聚合查询（如分组聚合、连接操作）的误差下限是多少？
• RQ3 DP-密码学原语如何扩展至复杂系统，如程序混淆、流量伪装和加密数据库？
• RQ4 DP-密码学协议中隐私、效用与性能之间的最优权衡是什么？如何为系统设计建模这一权衡？
• RQ5 现有针对SDP优化的机制（如查询优化）如何适配LDP和DP-密码学环境？

主要发现

• 通过允许可控的、差分私密的泄露，DP-密码学原语相比标准密码学原语实现了数量级的性能提升。
• 通过用基于DP-密码学的协议替代LDP，SDP与LDP之间的准确率差距显著缩小，即使在去中心化环境中也能实现对稀有事件（例如仅由100人共享的特征）的分析。
• 在LDP模型中，计数查询因用户级噪声导致误差为O(√N)，而DP-密码学通过利用密码学效率可实现更低的误差。
• 理论分离定理表明，在某些两方协议中，信息论意义上的差分隐私可实现比计算变体更高的准确率，凸显信任模型设计的重要性。
• 通过差分隐私放松密码学安全性，为在匿名通信、MPC和流量匿名化等场景中构建高效、私密系统开辟了新机遇。
• 在DP-密码学的新设计空间中，设计在隐私、效用与性能之间实现最优平衡的优化协议，仍是一个重大的开放研究挑战。