[论文解读] Outis: Crypto-Assisted Differential Privacy on Untrusted Servers

Amrita Roy Chowdhury, Chenghong Wang+3 more|arXiv (Cornell University)|Feb 20, 2019

Privacy-Preserving Technologies in Data被引用 22

一句话总结

Cryptε 提出了一种基于密码学的差分隐私系统，通过使用两个不共谋的不可信服务器在加密数据上进行计算，实现了中央模型的准确性和表达能力，同时无需可信的数据收集方。该系统通过将逻辑差分隐私程序自动编译为隐私保护的安全协议，实现了安全、高效的差分隐私分析，并具备强大的安全保证。

ABSTRACT

Differential privacy (DP) has steadily become the de-facto standard for achieving privacy in data analysis, which is typically implemented either in the or model. The local model has been more popular for commercial deployments as it does not require a trusted data collector. This increased privacy, however, comes at a cost of utility and algorithmic expressibility as compared to the central model. In this work, we propose, Crypt$\epsilon$, a system and programming framework that (1) achieves the accuracy guarantees and algorithmic expressibility of the central model (2) without any trusted data collector like in the local model. Crypt$\epsilon$ achieves the best of both worlds by employing two non-colluding untrusted servers that run DP programs on encrypted data from the data owners. Although straightforward implementations of DP programs using secure computation tools can achieve the above goal theoretically, in practice they are beset with many challenges such as poor performance and tricky security proofs. To this end, Crypt$\epsilon$ allows data analysts to author logical DP programs that are automatically translated to secure protocols that work on encrypted data. These protocols ensure that the untrusted servers learn nothing more than the noisy outputs, thereby guaranteeing DP (for computationally bounded adversaries) for all Crypt$\epsilon$ programs. Crypt$\epsilon$ supports a rich class of DP programs that can be expressed via a small set of transformation and measurement operators followed by arbitrary post-processing. Further, we propose performance optimizations leveraging the fact that the output is noisy. We demonstrate Crypt$\epsilon$'s feasibility for practical DP analysis with extensive empirical evaluations on real datasets.

研究动机与目标

• 弥合差分隐私中中央模型的高实用性与本地模型强信任保障之间的差距。
• 在无需可信数据收集方的前提下，实现不可信服务器上差分隐私程序的实用、高效且安全的执行。
• 通过高层编程框架支持广泛的差分隐私工作负载，该框架可将程序自动编译为安全计算协议。
• 解决通过加密数据上的安全计算部署差分隐私时面临的表现性能与安全证明挑战。
• 通过在真实数据集上的广泛实证评估，证明该方法的可行性和效率。

提出的方法

• Cryptε 使用两个不共谋的不可信服务器，联合在数据拥有者提供的加密数据上进行计算，确保任一服务器无法获取除最终噪声输出外的更多信息。
• 它将高层逻辑差分隐私程序（通过变换和测量操作符表达）自动编译为保护隐私的安全计算协议，以维持差分隐私。
• 该系统利用同态加密和安全多方计算技术，在计算能力受限的攻击者面前，实现对加密数据的计算并保持隐私。
• 它引入了性能优化机制，利用差分隐私程序输出本质上具有噪声的特性，减少冗余计算与通信开销。
• 该框架通过确保不可信服务器仅能获取最终噪声输出，而无法获取中间或原始数据，从而实现端到端的差分隐私。
• 它支持对最终输出的任意后处理操作，同时保持原始计算的隐私保证。

实验结果

研究问题

• RQ1 我们能否在不依赖可信数据收集方的前提下，实现中央模型在差分隐私中的准确性和算法表达能力？
• RQ2 能否使在加密数据上的安全计算对真实世界的差分隐私工作负载足够高效且实用？
• RQ3 在存在不可信服务器的系统中，如何确保对计算能力受限攻击者的强隐私保障？
• RQ4 当计算输出本质上具有噪声（如差分隐私）时，可以实施哪些优化？
• RQ5 能否将差分隐私的高层编程框架自动编译为安全、隐私保护的协议？

主要发现

• Cryptε 在消除对可信数据收集方的需求的同时，成功实现了中央模型的准确性和算法表达能力，同时保持了本地模型的信任保障。
• 该系统在真实数据集上表现出实际可用的性能，表明差分隐私的安全计算可足够高效以支持真实世界部署。
• 该框架通过一组少量的变换和测量操作符，支持广泛的差分隐私程序，实现了表达丰富且安全的分析。
• 基于差分隐私输出固有噪声特性的性能优化，显著减少了通信与计算开销。
• 安全模型确保不可信服务器仅能获取最终噪声输出，无法获取其他信息，为计算能力受限的攻击者提供了形式化的差分隐私保证。
• 实证评估证实，Cryptε 在保持强隐私保障的同时，性能与传统差分隐私实现相比具有竞争力。