[论文解读] Pan-Private Uniformity Testing

Kareem Amin, Matthew Joseph+1 more|arXiv (Cornell University)|Nov 4, 2019

Privacy-Preserving Technologies in Data参考文献 34被引用 5

一句话总结

该论文将大小为 $k$ 的域上的纯全景私有均匀性测试的样本复杂度确定为 $Θ(k^{2/3})$，弥合了中心模型（$Θ(√k)$）与本地私有模型（$Θ(k)$）之间的差距。它证明，针对单次入侵的全景私有性相比本地私有或多次入侵全景私有模型提供了更优的效用，且通过新下界表明，顺序交互式本地私有性同样需要 $Θ(k)$ 个样本。

ABSTRACT

A centrally differentially private algorithm maps raw data to differentially private outputs. In contrast, a locally differentially private algorithm may only access data through public interaction with data holders, and this interaction must be a differentially private function of the data. We study the intermediate model of pan-privacy. Unlike a locally private algorithm, a pan-private algorithm receives data in the clear. Unlike a centrally private algorithm, the algorithm receives data one element at a time and must maintain a differentially private internal state while processing this stream. First, we show that pure pan-privacy against multiple intrusions on the internal state is equivalent to sequentially interactive local privacy. Next, we contextualize pan-privacy against a single intrusion by analyzing the sample complexity of uniformity testing over domain $[k]$. Focusing on the dependence on $k$, centrally private uniformity testing has sample complexity $Θ(\sqrt{k})$, while noninteractive locally private uniformity testing has sample complexity $Θ(k)$. We show that the sample complexity of pure pan-private uniformity testing is $Θ(k^{2/3})$. By a new $Ω(k)$ lower bound for the sequentially interactive setting, we also separate pan-private from sequentially interactive locally private and multi-intrusion pan-private uniformity testing.

研究动机与目标

• 分析介于中心与本地差分隐私之间的全景私有模型下均匀性测试的样本复杂度。
• 确定针对单次入侵的全景私有性是否相比本地私有或多次入侵全景私有模型具有效用优势。
• 建立纯全景私有均匀性测试样本复杂度的紧致上下界。
• 证明针对多次入侵的全景私有性与顺序交互式本地私有性等价。
• 通过新下界区分全景私有、顺序交互式本地私有与多次入侵全景私有模型的效用差异。

提出的方法

• 构建一个全景私有均匀性测试器，将 $[k]$ 上的测试问题约化为 $[k^{2/3}]$ 上的均匀性测试，实现 $Θ(k^{2/3})$ 的样本复杂度。
• 采用一种新颖的约化技术，基于伯努利随机变量从两个分布的混合中采样，以模拟隐私约束。
• 应用 Diakonikolas 等人 [20] 提出的内存受限下界技术，推导出顺序交互式本地私有性的新 $Ω(k)$ 下界。
• 利用互信息与条件概率论证，限制单个数据元素对通信 transcript 的影响，确保差分隐私。
• 分析算法在每次更新后的内部状态，确保在单次入侵后仍保持差分隐私。
• 通过双向变换证明，多重入侵下的纯全景私有性与顺序交互式本地私有性等价。

实验结果

研究问题

• RQ1 大小为 $k$ 的域上，纯全景私有均匀性测试的最优样本复杂度是多少？
• RQ2 针对单次入侵的全景私有性是否相比本地私有或多次入侵全景私有模型具有效用优势？
• RQ3 多重入侵下的纯全景私有性是否等价于顺序交互式本地私有性？
• RQ4 全景私有均匀性测试的样本复杂度是否可严格优于本地私有或多次入侵全景私有模型？
• RQ5 顺序交互式本地私有均匀性测试的样本复杂度是多少？

主要发现

• 纯全景私有均匀性测试的样本复杂度为 $Θ(k^{2/3})$，严格优于本地私有测试的 $Θ(k)$ 复杂度。
• 新的 $Ω(k)$ 下界表明，顺序交互式本地私有均匀性测试同样需要 $Θ(k)$ 个样本，从而将其与全景私有测试区分开来。
• 针对多次入侵的纯全景私有性与顺序交互式本地私有性等价，意味着在此威胁模型下无法获得效用增益。
• 全景私有测试器将问题规模从 $k$ 约化至 $k^{2/3}$，从而实现比全领域本地测试更高效的解决方案。
• 分析表明，针对单次入侵的全景私有性相比本地私有与多次入侵全景私有模型均提供了有意义的效用优势。
• 互信息论证表明，具有 $m$ 个样本的本地私有均匀性测试器必须满足 $I(X;M_{1:m}) = Ω(1)$，从而导出样本复杂度的 $Ω(k/α^2)$ 下界。