[论文解读] Privacy-Preserving Transactions with Verifiable Local Differential Privacy

Movsowitz Davidow, Danielle, Manevich, Yacov+1 more|arXiv (Cornell University)|Aug 18, 2022

Privacy-Preserving Technologies in Data被引用 3

一句话总结

本文提出可验证差分隐私（VDP），一种框架，使可信管理员或多方计算（MPC）服务器能够发布零知识证明，以确保差分隐私（DP）统计量是忠实计算的，且使用了正确的私有噪声。该方法结合了私有随机性和公共随机性，以同时实现强隐私保护和公开可验证性，证明在主动攻击者模型下，实现可验证DP需要计算假设。

ABSTRACT

Differential Privacy (DP) is often presented as a strong privacy-enhancing technology with broad applicability and advocated as a de-facto standard for releasing aggregate statistics on sensitive data. However, in many embodiments, DP introduces a new attack surface: a malicious entity entrusted with releasing statistics could manipulate the results and use the randomness of DP as a convenient smokescreen to mask its nefariousness. Since revealing the random noise would obviate the purpose of introducing it, the miscreant may have a perfect alibi. To close this loophole, we introduce the idea of extit{Verifiable Differential Privacy}, which requires the publishing entity to output a zero-knowledge proof that convinces an efficient verifier that the output is both DP and reliable. Such a definition might seem unachievable, as a verifier must validate that DP randomness was generated faithfully without learning anything about the randomness itself. We resolve this paradox by carefully mixing private and public randomness to compute verifiable DP counting queries with theoretical guarantees and show that it is also practical for real-world deployment. We also demonstrate that computational assumptions are necessary by showing a separation between information-theoretic DP and computational DP under our definition of verifiability.

研究动机与目标

• 解决差分隐私中的关键安全漏洞：恶意管理员可能操纵DP噪声以偏移结果，同时利用DP的随机性作为掩护。
• 确保DP计算的统计量不仅具有隐私性，还能被任何第三方公开验证，防止将噪声用作篡改的遮羞布。
• 在主动攻击者模型下，形式化可信管理员和客户端-服务器MPC设置中的可验证差分隐私，扩展至半诚实威胁模型之外。
• 证明信息论意义上的可验证DP是不可能的，确立计算假设在实现可验证性中的必要性。
• 设计实用的可验证DP计数查询（直方图）协议，使用二项分布噪声和公共随机性，确保效率和正确性。

提出的方法

• 提出一种新安全模型，要求发布方输出一个零知识证明，证明DP噪声是忠实生成的，而无需暴露噪声本身。
• 在可信管理员模型中，结合用户输入的私有随机性与可信来源的公共随机性，以计算可验证的DP直方图。
• 使用由独立伯努利试验构建的二项分布作为噪声源，通过统计检验实现高效验证。
• 设计一个包含K ≥ 2个服务器的多方计算（MPC）协议，其中客户端对输入进行秘密共享，服务器联合计算一个带有可验证证明的DP直方图。
• 利用零知识证明系统（如SNARKs或类似方案）实现对DP计算正确性的高效验证，而无需暴露私有数据或噪声。
• 证明在信息论假设下，可验证DP是不可能的，从而确立信息论与计算意义上的可验证DP之间的分离。

实验结果

研究问题

• RQ1 恶意管理员能否利用DP固有的随机性作为掩护，操纵DP噪声以偏移聚合统计量，同时保持不被发现？
• RQ2 是否可以设计一种DP协议，使噪声生成的正确性能够被公开验证，同时不损害用户隐私？
• RQ3 在存在主动攻击者的情况下，实现可验证差分隐私所需的最小密码学假设是什么？
• RQ4 是否可以使用简单的噪声分布（如二项分布）实现可验证DP，还是更复杂的噪声（如拉普拉斯分布、正态分布）在验证上不可行？
• RQ5 在恶意多数设置下使用MPC，是否能够同时实现DP计算的安全性与可验证性？

主要发现

• 在计算假设下可实现可验证差分隐私，证明信息论意义上的可验证DP是不可能的。
• 所提出的协议确保任何噪声生成的偏差都能被验证者检测到，即使管理员是恶意的。
• 结合公共随机性与私有随机性，可实现高效且公开可验证的DP计数查询。
• 该协议保持了与可信管理员DP相当的最优误差界，避免了仅使用MPC方法中常见的精度下降问题。
• 该框架支持可信管理员和多方计算设置，可扩展至主动攻击者模型，并支持公开审计。
• 本文建立了信息论与计算意义上可验证DP之间的分离，表明后者是实现实际可验证性的必要条件。