[论文解读] An Algorithmic Framework For Differentially Private Data Analysis on Trusted Processors

Joshua E. Allen, Bolin Ding+4 more|arXiv (Cornell University)|Jul 2, 2018

Privacy-Preserving Technologies in Data被引用 10

一句话总结

本文提出了无感知差分隐私（ODP），一种新型隐私框架，通过利用 Intel SGX 等可信处理器，将本地模型的强隐私保护与全局模型的高准确性相结合。该框架提出了一套高效、无感知的算法，用于处理高频项与频率预言机问题，结合流处理与差分隐私技术，在 $(\epsilon, \delta)$-差分隐私下实现了显著低于本地模型的误差。

ABSTRACT

Differential privacy has emerged as the main definition for private data analysis and machine learning. The {\\em global} model of differential privacy, which assumes that users trust the data collector, provides strong privacy guarantees and introduces small errors in the output. In contrast, applications of differential privacy in commercial systems by Apple, Google, and Microsoft, use the {\\em local model}. Here, users do not trust the data collector, and hence randomize their data before sending it to the data collector. Unfortunately, local model is too strong for several important applications and hence is limited in its applicability. In this work, we propose a framework based on trusted processors and a new definition of differential privacy called {\\em Oblivious Differential Privacy}, which combines the best of both local and global models. The algorithms we design in this framework show interesting interplay of ideas from the streaming algorithms, oblivious algorithms, and differential privacy.

研究动机与目标

• 解决本地差分隐私（LDP）的局限性，尽管其提供了强大的用户隐私保障，但存在高误差率且限制了适用性。
• 通过使用户信任硬件保护的处理器而非数据收集者，弥合本地与全局差分隐私之间的差距。
• 在新的 ODP 框架下，为高频项与频率预言机等基础问题设计高效、无感知的算法。
• 证明 ODP 可在 LDP 因噪声过大而失效时，实现实际可行且高精度的私有数据分析。

提出的方法

• 提出无感知差分隐私（ODP）的新定义，通过利用可信执行环境（TEEs），即使在数据收集者不可信的情况下也能确保隐私。
• 设计一种无感知的高频项问题算法，以与数据无关的方式处理数据库，确保访问模式不泄露信息。
• 采用两阶段方法：第一阶段以流式方式构建项目类型及其计数的列表；第二阶段对计数应用拉普拉斯噪声，并无感知地排序结果。
• 利用无感知排序与私有内存访问，确保所有数据访问模式均与输入数据无关，从而保持差分隐私。
• 利用 Count-Min Sketch 数据结构在私有内存中维护频率估计，随后以拉普拉斯噪声释放，用于查询响应。
• 应用并集不等式与尾部概率分析，限制稀有项目泄露的概率，在特定条件下实现 $(\epsilon, \frac{1}{m^{\tau-1}})$-ODP。

实验结果

研究问题

• RQ1 我们能否设计一种隐私保护数据分析框架，兼具本地模型的强隐私保护与全局模型的高准确性？
• RQ2 可信处理器如何被用于实现一种既实用又可证明私有的新差分隐私定义？
• RQ3 能否在新模型下构建无感知算法，以解决高频项与频率预言机等基础问题？
• RQ4 与现有模型相比，新 ODP 框架在隐私参数与误差之间的权衡如何？

主要发现

• 当 $n/k > \tau \log m$ 时，所提出的 ODP 框架在高频项问题上实现了 $(\epsilon, \frac{1}{m^{\tau-1}})$-差分隐私，该条件在 $k$ 为常数的典型应用中成立。
• 算法通过无感知排序网络在 $O(n \log n)$ 时间内运行，所有内存访问均与输入数据无关。
• 对于频率预言机问题，通过在私有内存中维护 Count-Min Sketch 并以拉普拉斯噪声释放，可实现无需重复交互的准确且私有的查询。
• 与本地差分隐私相比，该框架显著降低了误差：LDP 在不同元素计数任务中误差为 $\Omega(\sqrt{n})$，而 ODP 可实现 $O(1/\epsilon)$ 误差，接近全局模型性能。
• 未在原始数据库中出现的稀有项目泄露概率被限制在 $\frac{1}{m^{\tau-1}}$ 以内，当 $m$ 较大且 $\tau > 1$ 时，该概率可忽略不计。
• 对差分隐私输出的后处理（如选择前 $k$ 项）可保持 ODP 保证，确保端到端隐私。