[论文解读] Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation

Genqiang Wu, Yeping He+2 more|arXiv (Cornell University)|Apr 11, 2016

Privacy-Preserving Technologies in Data参考文献 38被引用 4

一句话总结

本文通过引入‘盲态性’（obliviousness）的概念，建立了一个正式框架，用于在多方计算中继承差分隐私。该概念是安全计算随机化函数的必要且充分条件。论文证明，若一个协议私密地计算了一个差分隐私函数，则其继承该函数的隐私保障，并通过安全的随机变量生成技术，构建了高效且可证明安全的协议，用于高斯、拉普拉斯和指数机制等基础机制。

ABSTRACT

How to achieve differential privacy in the distributed setting, where the dataset is distributed among the distrustful parties, is an important problem. We consider in what condition can a protocol inherit the differential privacy property of a function it computes. The heart of the problem is the secure multiparty computation of randomized function. A notion \emph{obliviousness} is introduced, which captures the key security problems when computing a randomized function from a deterministic one in the distributed setting. By this observation, a sufficient and necessary condition about computing a randomized function from a deterministic one is given. The above result can not only be used to determine whether a protocol computing differentially private function is secure, but also be used to construct secure one. Then we prove that the differential privacy property of a function can be inherited by the protocol computing it if the protocol privately computes it. A composition theorem of differentially private protocols is also presented. We also construct some protocols to generate random variate in the distributed setting, such as the uniform random variates and the inversion method. By using these fundamental protocols, we construct protocols of the Gaussian mechanism, the Laplace mechanism and the Exponential mechanism. Importantly, all these protocols satisfy obliviousness and so can be proved to be secure in a simulation based manner. We also provide a complexity bound of computing randomized function in the distribute setting. Finally, to show that our results are fundamental and powerful to multiparty differential privacy, we construct a differentially private empirical risk minimization protocol.

研究动机与目标

• 确定多方协议在何种条件下可以继承其所计算函数的差分隐私特性。
• 解决在数据被分割至互不信任的多方、且处于不互信环境下的分布式场景中，安全计算随机化函数的挑战。
• 构建一个正式的安全模型，确保隐私不仅在输出中得到保护，也在协议执行过程中的中间视图中得到保护。
• 在多方计算场景中，为核心差分隐私机制（高斯、拉普拉斯、指数）构建实用且安全的协议。
• 为分布式系统中计算随机化函数提供复杂度边界，并在真实问题（差分隐私经验风险最小化）上展示该方法。

提出的方法

• 引入‘盲态性’的概念，以捕捉将确定性协议转换为在分布式环境中安全计算随机化函数的核心安全挑战。
• 证明协议仅当满足盲态性条件时，才会继承差分隐私，从而确立了安全多方计算随机化函数的充分必要条件。
• 通过基于XOR的秘密共享和模运算，开发了用于生成均匀分布和非均匀分布随机变量的安全多方协议，确保隐私性和正确性。
• 通过将随机变量生成协议与安全函数计算组合，构建了高斯、拉普拉斯和指数机制的基础协议。
• 使用基于模拟的安全性证明，验证所有构建的协议均满足差分隐私，并保持个体输入的隐私性。
• 为安全计算随机化函数提供复杂度边界，表明该方法在参与方数量和输入规模上均具有高效可扩展性。

实验结果

研究问题

• RQ1 在何种条件下，多方协议可以安全计算一个差分隐私函数，而不会泄露关于个体输入的信息？
• RQ2 何种形式化的安全条件可确保计算随机化函数的协议保留原始函数的差分隐私特性？
• RQ3 在分布式多方环境中，如何实现安全的随机变量生成以支持差分隐私机制？
• RQ4 是否可以对差分隐私协议的组合进行形式化分析，并保证其在多方环境下的隐私性？
• RQ5 如何在分布式环境中，从安全且模块化的组件出发，构建复杂的差分隐私计算（如经验风险最小化）？

主要发现

• 本文确立了：当且仅当协议满足‘盲态性’条件时，其才会继承所计算函数的差分隐私特性。该条件形式化了‘任何参与方的视图均不得泄露关于其他参与方输入的信息’的要求。
• 通过基于XOR的秘密共享，构建了在分布式环境中生成均匀随机变量的安全协议，确保输出均匀分布且具有隐私性。
• 作者通过将安全随机变量生成与MPC结合，构建了高斯、拉普拉斯和指数机制的可证明安全协议，所有协议均满足盲态性条件。
• 本文提出了多方计算中差分隐私协议的组合定理，支持复杂差分隐私计算的模块化构建。
• 成功使用所提出的底层工具构建了差分隐私经验风险最小化协议，展示了该框架在实际应用中的可行性。
• 理论证明了在分布式环境中计算随机化函数的复杂度边界，表明该方法在参与方数量和输入规模上均具有高效可扩展性。