[论文解读] Distributed Private Data Analysis: On Simultaneously Solving How and What

Amos Beimel, Kobbi Nissim+1 more|arXiv (Cornell University)|Mar 14, 2011

Cryptography and Data Security参考文献 19被引用 8

一句话总结

本文研究了一种新型的分布式私有数据分析范式，该范式同时决定*计算什么*和*如何计算*，而非依次选择差分隐私函数后再构建安全函数计算（SFE）协议。关键发现是，对于二元和等对称函数，当误差允许为O(√n)时，新范式可产生更高效的协议；但当误差为o(√n)且轮数为常数时，新范式并无优势。

ABSTRACT

We examine the combination of two directions in the field of privacy concerning computations over distributed private inputs - secure function evaluation (SFE) and differential privacy. While in both the goal is to privately evaluate some function of the individual inputs, the privacy requirements are significantly different. The general feasibility results for SFE suggest a natural paradigm for implementing differentially private analyses distributively: First choose what to compute, i.e., a differentially private analysis; Then decide how to compute it, i.e., construct an SFE protocol for this analysis. We initiate an examination whether there are advantages to a paradigm where both decisions are made simultaneously. In particular, we investigate under which accuracy requirements it is beneficial to adapt this paradigm for computing a collection of functions including binary sum, gap threshold, and approximate median queries. Our results imply that when computing the binary sum of $n$ distributed inputs then: * When we require that the error is $o(\sqrt{n})$ and the number of rounds is constant, there is no benefit in the new paradigm. * When we allow an error of $O(\sqrt{n})$, the new paradigm yields more efficient protocols when we consider protocols that compute symmetric functions. Our results also yield new separations between the local and global models of computations for private data analysis.

研究动机与目标

• 检验将*计算内容*与*计算方式*的设计联合进行，是否能在分布式环境中产生比传统顺序方法更高效的差分隐私协议。
• 研究在差分隐私保护下的安全函数计算中，通信效率、误差容忍度与轮复杂度之间的权衡。
• 通过分析联合设计的影响，建立本地模型与全局模型在私有计算中的新分离关系。
• 确定在何种精度与通信约束下，新范式优于传统方法（即先选择差分隐私函数，再构建SFE协议）

提出的方法

• 提出一种新范式：与传统顺序方法不同，联合优化差分隐私函数的选择与安全计算协议的设计。
• 在全局模型与本地模型下，分析三种基础查询（二元和、间隙阈值、近似中位数）的协议效率。
• 采用n个诚实但好奇的参与方通过全连接网络连接的形式化模型，隐私需抵御规模达t的联盟攻击。
• 将差分隐私约束应用于参与方联盟，扩展标准SFE模型以支持差分隐私保证。
• 对协议的通信记录与视图进行概率分析，特别关注对称函数及“孤独参与方”（未参与任何联盟的参与方）的行为。
• 利用对称性与通信记录等价性论证，证明：若协议具备差分隐私且对称，则参与方发送消息的概率与其输入无关，从而导出误差与通信量的上界。

实验结果

研究问题

• RQ1 联合设计计算函数与安全协议，是否能产生比顺序方法更高效的差分隐私协议？
• RQ2 在误差与轮复杂度满足何种条件时，新范式能提供通信或效率优势？
• RQ3 当函数与协议同时设计时，本地模型与全局模型之间存在何种分离关系？
• RQ4 函数的对称性如何影响分布式环境中差分隐私协议的可行性与效率？

主要发现

• 对于二元和查询，当误差要求为o(√n)且轮数为常数时，新范式在效率上不优于传统顺序方法。
• 当误差可允许为O(√n)时，新范式对对称函数（如二元和）可产生更高效的协议，因通信量减少且隐私保障更优。
• 本文建立了本地模型与全局模型之间新的分离关系：在本地模型中，采用联合设计函数与协议的协议，其效率优于依赖标准SFE构造的协议。
• 对于对称函数，若协议具备差分隐私与对称性，则任一参与方发送消息的概率与其输入无关，从而对协议行为与误差界施加强约束。
• 分析证明：若协议具备差分隐私与对称性，则其通信记录分布对输入交换保持不变，这意味着在某些配置下误差必须至少为Ω(√n)。
• 若某协议在全零输入下以大于1/2的概率误差小于n/4，则其在仅孤独参与方取值为1的输入下，也必须以大于1/2的概率误差至少为n/4，揭示了对称环境中固有的误差权衡。