[论文解读] Crypt$\epsilon$: Crypto-Assisted Differential Privacy on Untrusted Servers.

Amrita Roy Chowdhury, Chenghong Wang+3 more|arXiv (Cornell University)|Feb 20, 2019

Privacy-Preserving Technologies in Data参考文献 90被引用 4

一句话总结

Cryptϵ 是一种基于密码学的差分隐私系统，可在不受信任的服务器上实现高精度、高表达性的差分隐私计算，且无需可信协调者。该系统采用两个互不串通的服务器——分析服务器（AS）和密码服务提供商（CSP）——结合同态加密与混淆电路技术，在加密数据上执行差分隐私程序，实现中心模型的精度与表达性，同时通过安全多方计算确保计算差分隐私。

ABSTRACT

Differential privacy (DP) has steadily become the de-facto standard for achieving privacy in data analysis, which is typically implemented either in the "central" or "local" model. The local model has been more popular for commercial deployments as it does not require a trusted data collector. This increased privacy, however, comes at a cost of utility and algorithmic expressibility as compared to the central model. In this work, we propose, Crypt$\epsilon$, a system and programming framework that (1) achieves the accuracy guarantees and algorithmic expressibility of the central model (2) without any trusted data collector like in the local model. Crypt$\epsilon$ achieves the "best of both worlds" by employing two non-colluding untrusted servers that run DP programs on encrypted data from the data owners. Although straightforward implementations of DP programs using secure computation tools can achieve the above goal theoretically, in practice they are beset with many challenges such as poor performance and tricky security proofs. To this end, Crypt$\epsilon$ allows data analysts to author logical DP programs that are automatically translated to secure protocols that work on encrypted data. These protocols ensure that the untrusted servers learn nothing more than the noisy outputs, thereby guaranteeing DP (for computationally bounded adversaries) for all Crypt$\epsilon$ programs. Crypt$\epsilon$ supports a rich class of DP programs that can be expressed via a small set of transformation and measurement operators followed by arbitrary post-processing. Further, we propose performance optimizations leveraging the fact that the output is noisy. We demonstrate Crypt$\epsilon$'s feasibility for practical DP analysis with extensive empirical evaluations on real datasets.

研究动机与目标

• 弥合中心差分隐私（CDP）的高精度与本地差分隐私（LDP）的强隐私性之间的差距，且不依赖可信数据协调者。
• 使数据分析师能够以类似 CDP 的方式编写逻辑差分隐私程序，同时通过密码学机制确保端到端隐私。
• 支持丰富的差分隐私程序类别，包括复杂转换与后处理操作，并提供形式化隐私保障。
• 针对噪声输出优化安全计算性能，使实际部署成为可能。

提出的方法

• Cryptϵ 使用两个不受信的、互不串通的服务器：用于计算的分析服务器（AS）和用于管理密码学原语的密码服务提供商（CSP）。
• 采用线性同态加密（LHE）实现安全聚合，使用混淆电路实现非线性操作的安全评估。
• 程序通过一组有限的转换与测量操作符（如拉普拉斯机制、Noisy-Max）编写，这些操作符在构造上保证 ϵ-DP。
• 使用零知识证明（DV NIZK）验证过滤和独热编码等操作的正确性，而不会泄露敏感数据。
• 系统支持任意后处理与循环结构，支持表达性强的数据分析工作流。
• 通过利用输出本身具有噪声的特性，应用性能优化，降低密码学开销。

实验结果

研究问题

• RQ1 能否在消除对可信协调者依赖的前提下，实现中心模型的精度与表达性，同时达成差分隐私？
• RQ2 如何在不泄露除噪声输出外任何信息的前提下，使两个不受信服务器在加密数据上安全计算出受差分隐私保护的输出？
• RQ3 能否设计一种高层编程框架，使分析师能够如同在中心模型中一样编写差分隐私程序，同时确保形式化隐私保障？
• RQ4 哪些密码学与优化技术可使在加密数据上进行安全差分隐私计算既实用又高效？

主要发现

• Cryptϵ 在无需可信协调者的情况下，实现了中心模型的精度保障（例如，计数查询的误差为 Θ(1/ϵ)）。
• 该系统支持丰富的差分隐私程序类别，包括复杂转换、条件判断、循环结构以及任意后处理。
• 性能评估表明，Cryptϵ 在真实世界数据集上具有实用性，优化措施显著降低了噪声输出的开销。
• DV NIZK 的使用实现了高效、隐私保护的数据完整性验证与操作正确性验证（如过滤操作）。
• 在两台服务器不串通的假设下，系统对所有程序提供了计算差分隐私（SIM-CDP）。
• 将 CSP 扩展为可信执行环境（TEE）后，即使在恶意服务器行为下，也能保证有界的 ϵ-DP。