[论文解读] Connecting Robust Shuffle Privacy and Pan-Privacy

Victor Balcer, Albert Cheu+2 more|arXiv (Cornell University)|Apr 20, 2020

Privacy-Preserving Technologies in Data参考文献 25被引用 6

一句话总结

本文通过证明广义隐私（pan-privacy）的下界可用于推导出鲁棒混淆差分隐私协议的下界，建立了鲁棒混淆差分隐私与广义隐私之间的正式联系。本文提出了针对不同元素计数和均匀性检测的新型鲁棒混淆差分私有协议，并证明这些问题分别需要 Ω(√k/ε) 的加性误差和 Ω(k²ᐟ³) 的样本复杂度，与广义私有算法的性能极限一致。

ABSTRACT

In the \emph{shuffle model} of differential privacy, data-holding users send randomized messages to a secure shuffler, the shuffler permutes the messages, and the resulting collection of messages must be differentially private with regard to user data. In the \emph{pan-private} model, an algorithm processes a stream of data while maintaining an internal state that is differentially private with regard to the stream data. We give evidence connecting these two apparently different models. Our results focus on \emph{robustly} shuffle private protocols, whose privacy guarantees are not greatly affected by malicious users. First, we give robustly shuffle private protocols and upper bounds for counting distinct elements and uniformity testing. Second, we use pan-private lower bounds to prove robustly shuffle private lower bounds for both problems. Focusing on the dependence on the domain size $k$, we find that robust approximate shuffle privacy and approximate pan-privacy have additive error $Θ(\sqrt{k})$ for counting distinct elements. For uniformity testing, we give a robust approximate shuffle private protocol with sample complexity $ ilde O(k^{2/3})$ and show that an $Ω(k^{2/3})$ dependence is necessary for any robust pure shuffle private tester. Finally, we show that this connection is useful in both directions: we give a pan-private adaptation of recent work on shuffle private histograms and use it to recover further separations between pan-privacy and interactive local privacy.

研究动机与目标

• 建立鲁棒混淆差分隐私与广义隐私之间的理论联系，表明一种模型中的下界可为另一种模型提供启示。
• 为两个基础问题设计鲁棒混淆差分私有协议：不同元素计数和均匀性检测，即使在恶意用户行为下也具备强隐私保障。
• 证明广义私有算法的性能极限——特别是误差和样本复杂度方面——同样约束鲁棒混淆差分私有协议。
• 探索将广义私有算法与鲁棒混淆差分私有协议相互转换的可行性，识别出支持此类转换的结构条件。

提出的方法

• 将广义私有下界适配以推导出鲁棒混淆差分私有协议的新下界，利用问题对虚假或稀释数据输入的鲁棒性。
• 通过使用噪声 OR 函数和二项分布噪声，构建一种鲁棒混淆差分私有协议用于不同元素计数，实现 O(√k/ε) 的加性误差。
• 通过结合噪声注入与在隐私约束下的统计测试，设计一种鲁棒混淆差分私有均匀性检测器，样本复杂度为 Õ(k²ᐟ³)。
• 将近期的混淆差分安全直方图构造方法适配至广义私有设置，使用二项分布噪声确保端到端隐私，ℓ∞ 误差为 O(1/ε² log(1/δ))。
• 利用组合定理和后处理不变性，确保在流式更新过程中内部状态和输出始终保持差分隐私。
• 应用从广义私有算法到鲁棒混淆差分私有协议的结构变换，突出两者在噪声生成与聚合模式上的相似性。

实验结果

研究问题

• RQ1 广义私有下界能否用于建立鲁棒混淆差分私有协议的下界？
• RQ2 在不同元素计数和均匀性检测中，鲁棒混淆差分私有协议的最紧致误差与样本复杂度边界是什么？
• RQ3 在何种条件下可将广义私有算法转换为鲁棒混淆差分私有协议，反之亦然？
• RQ4 是否存在某个问题在鲁棒混淆差分隐私与广义隐私之间存在可证明的分离？抑或它们的性能极限是等价的？
• RQ5 在对抗性用户行为下，鲁棒混淆差分协议的隐私保障如何维持？哪些结构特性确保了这种鲁棒性？

主要发现

• 对于不同元素计数问题，鲁棒近似混淆差分隐私需要 Ω(√(k/ε)) 的加性误差，与从广义隐私推导出的下界一致。
• 所提出的鲁棒混淆差分私有协议在不同元素计数问题上实现了 O(√k/ε) 的加性误差，与下界仅相差常数因子。
• 对于均匀性检测，任何鲁棒纯混淆差分私有协议均需 Ω(k²ᐟ³) 个样本，该结论通过适配广义私有下界得出。
• 所提出的鲁棒近似混淆差分私有均匀性检测器实现了 Õ(k²ᐟ³) 的样本复杂度，提供了近乎紧致的上界。
• 广义隐私通过适配的直方图构造继承了与交互式本地差分隐私之间的分离特性，例如在指针追踪问题中存在 Ω(ℓ) 的样本复杂度差距。
• 两种模型之间的联系使得双向转换成为可能：广义私有算法可被适配至混淆模型，而混淆协议可为广义私有设计提供启示。