[论文解读] Privacy Preserving Stream Analytics: The Marriage of Randomized Response and Approximate Computing

Do Le Quoc, Martín Beck+4 more|arXiv (Cornell University)|Jan 19, 2017

Privacy-Preserving Technologies in Data参考文献 74被引用 15

一句话总结

PrivApprox 引入了一种隐私保护的流式分析系统，通过客户端采样和本地噪声注入，统一了随机响应与近似计算。该系统实现了强于差分隐私的零知识隐私保护，具备接近实时的低延迟处理能力，并通过无同步的分布式架构实现了系统性的效用-平衡控制。

ABSTRACT

How to preserve users' privacy while supporting high-utility analytics for low-latency stream processing? To answer this question: we describe the design, implementation, and evaluation of PRIVAPPROX, a data analytics system for privacy-preserving stream processing. PRIVAPPROX provides three properties: (i) Privacy: zero-knowledge privacy guarantees for users, a privacy bound tighter than the state-of-the-art differential privacy; (ii) Utility: an interface for data analysts to systematically explore the trade-offs between the output accuracy (with error-estimation) and query execution budget; (iii) Latency: near real-time stream processing based on a scalable "synchronization-free" distributed architecture. The key idea behind our approach is to marry two existing techniques together: namely, sampling (used in the context of approximate computing) and randomized response (used in the context of privacy-preserving analytics). The resulting marriage is complementary - it achieves stronger privacy guarantees and also improves performance, a necessary ingredient for achieving low-latency stream analytics.

研究动机与目标

• 解决在数据流处理中强用户隐私与高实用性实时分析之间的矛盾。
• 克服现有系统缺乏实时支持或假设集中式可信数据的局限性。
• 设计一种无需协调或信任聚合器或代理的隐私保护分析系统。
• 通过结合采样与噪声注入，引入零知识隐私，实现强于差分隐私的更严格隐私保证。
• 为分析师提供可调接口，以探索输出准确性、误差估计与计算预算之间的权衡。

提出的方法

• 在数据源端实施客户端采样，每个用户根据可配置的采样概率 $ s $ 独立决定是否参与查询周期。
• 在客户端使用本地随机响应对真实答案进行扰动后再传输，确保本地差分隐私，避免在聚合器端需要可信噪声添加。
• 采用无同步的分布式架构，代理在无协调的情况下转发匿名化、加密的数据流，降低延迟并减少信任假设。
• 在代理端实施源重写，实现不可链接性与匿名性，防止任何组件将响应与特定客户端关联。
• 集成隐私-效用权衡接口，允许分析师通过配置采样率和噪声参数来平衡准确性与资源使用。
• 证明联合方法可实现零知识隐私，其隐私模型强于差分隐私，且对所有 $ s \neq 0 $ 满足 $ \frac{\rho_{zk}}{\rho_{dp}} > 1 $，表明在零知识模型中攻击者的优势更高。

实验结果

研究问题

• RQ1 能否联合利用采样与随机响应，在实时流式分析中实现更强的隐私保障？
• RQ2 无同步、去中心化的架构在保障隐私的同时，如何支持低延迟流式处理？
• RQ3 结合采样与本地噪声注入在多大程度上可使隐私保护超越差分隐私？
• RQ4 分析师能否在隐私保护的流式分析系统中有效权衡输出准确性与执行成本？
• RQ5 所提出系统的正式隐私边界是什么？与差分隐私等现有模型相比有何差异？

主要发现

• 系统实现了零知识隐私，其隐私保障强于差分隐私，证明为不等式 $ \frac{\rho_{zk}}{\rho_{dp}} > 1 $，该式对所有 $ s \neq 0 $ 成立。
• 比值 $ \frac{\rho_{zk}}{\rho_{dp}} $ 随采样率 $ s $ 的降低而增大，表明更低的采样率会放大零知识模型的隐私优势。
• 通过无同步架构实现近实时流式处理，避免了代理与聚合器之间的协调开销。
• 通过源重写与加密实现匿名性与不可链接性，确保在威胁模型假设下，任何组件都无法将响应与特定客户端关联。
• 系统为分析师提供了实用接口，可通过可配置的采样与噪声参数，探索输出准确性（含误差估计）与计算预算之间的权衡。
• 采样与随机响应的结合使系统在分布式流式分析中同时提升了隐私性、性能与效用。