[论文解读] Sample Complexity Bounds on Differentially Private Learning via Communication Complexity

Vitaly Feldman, David Xiao|arXiv (Cornell University)|Feb 25, 2014

Privacy-Preserving Technologies in Data参考文献 45被引用 12

一句话总结

本文建立了纯差分隐私学习的样本复杂度与概念评估的随机单向通信复杂度之间的紧密联系，证明了纯差分隐私可能比非私有或近似私有学习需要显著更多的样本。通过展示在纯隐私下样本复杂度可任意高于其他情况，并利用Littlestone维数和通信复杂度工具提供紧致界，解决了开放问题。

ABSTRACT

In this work we analyze the sample complexity of classification by differentially private algorithms. Differential privacy is a strong and well-studied notion of privacy introduced by Dwork et al. (2006) that ensures that the output of an algorithm leaks little information about the data point provided by any of the participating individuals. Sample complexity of private PAC and agnostic learning was studied in a number of prior works starting with (Kasiviswanathan et al., 2008) but a number of basic questions still remain open, most notably whether learning with privacy requires more samples than learning without privacy. We show that the sample complexity of learning with (pure) differential privacy can be arbitrarily higher than the sample complexity of learning without the privacy constraint or the sample complexity of learning with approximate differential privacy. Our second contribution and the main tool is an equivalence between the sample complexity of (pure) differentially private learning of a concept class $C$ (or $SCDP(C)$) and the randomized one-way communication complexity of the evaluation problem for concepts from $C$. Using this equivalence we prove the following bounds: 1. $SCDP(C) = \\Omega(LDim(C))$, where $LDim(C)$ is the Littlestone's (1987) dimension characterizing the number of mistakes in the online-mistake-bound learning model. Known bounds on $LDim(C)$ then imply that $SCDP(C)$ can be much higher than the VC-dimension of $C$. 2. For any $t$, there exists a class $C$ such that $LDim(C)=2$ but $SCDP(C) \\geq t$. 3. For any $t$, there exists a class $C$ such that the sample complexity of (pure) $\\alpha$-differentially private PAC learning is $\\Omega(t/\\alpha)$ but the sample complexity of the relaxed $(\\alpha,\\beta)$-differentially private PAC learning is $O(\\log(1/\\beta)/\\alpha)$. This resolves an open problem of Beimel et al. (2013b).

研究动机与目标

• 理解在PAC学习和广义学习中，纯差分隐私的基本样本复杂度代价。
• 解决关于纯差分隐私是否比非私有或近似私有学习需要更多样本的开放问题。
• 建立纯差分私有学习的样本复杂度与随机单向通信复杂度之间的正式等价关系。
• 利用组合度量（如Littlestone维数）刻画纯私有学习的样本复杂度。
• 在样本效率方面，展示纯差分隐私与近似差分隐私之间的分离性。

提出的方法

• 作者引入了概念类 $ C $ 的纯差分私有学习的样本复杂度 $ \mathrm{SCDP}(C) $ 与评估 $ C $ 中概念的随机单向通信复杂度之间的新等价关系。
• 他们利用这一等价关系，通过已知的通信复杂度界（特别是与Littlestone维数相关者）推导出 $ \mathrm{SCDP}(C) $ 的下界。
• 关键技术工具是使用概率表示来表示概念类，将隐私约束与互信息的信息论极限联系起来。
• 他们应用指数机制和组合定理，改进了对失败概率 $ \delta $ 的依赖，实现了近似差分隐私下 $ O(\log(1/\delta)/\alpha) $ 的样本复杂度。
• 分析利用了通信复杂度和信息论的结果，推导出在隐私约束下样本复杂度的紧致界。
• 本文采用从私有学习到通信复杂度的归约，表明任何私有学习算法都蕴含一个通信成本有界的通信协议。

实验结果

研究问题

• RQ1 纯差分私有学习的样本复杂度是否严格高于非私有或近似私有学习？
• RQ2 纯差分私有学习的样本复杂度能否通过通信复杂度来刻画？
• RQ3 Littlestone维数是否为纯差分私有学习的样本复杂度提供紧致下界？
• RQ4 在样本复杂度方面，纯差分隐私与近似差分隐私之间的数量差距是什么？
• RQ5 私有学习的样本复杂度能否独立于概念类的大小而有界？

主要发现

• 纯差分私有学习的样本复杂度 $ \mathrm{SCDP}(C) $ 的下界为 $ \Omega(\mathrm{LDim}(C)) $，其中 $ \mathrm{LDim}(C) $ 是概念类 $ C $ 的Littlestone维数。
• 存在满足 $ \mathrm{LDim}(C) = 2 $ 的概念类，使得对任意给定的 $ t $，都有 $ \mathrm{SCDP}(C) \geq t $，表明Littlestone维数与样本复杂度之间的差距可任意大。
• 对任意 $ t $，存在一个概念类 $ C $，使得纯 $ \alpha $-差分私有PAC学习的样本复杂度为 $ \Omega(t/\alpha) $，而近似 $ (\alpha,\beta) $-差分私有学习的样本复杂度为 $ O(\log(1/\beta)/\alpha) $，从而解决了Beimel等人（2013b）提出的开放问题。
• 即使VC维很小，纯差分私有学习的样本复杂度也可能远高于非私有学习。
• $ \mathrm{SCDP}(C) $ 与概念评估的随机单向通信复杂度之间的等价关系，为分析私有学习提供了一种新颖而强大的工具。
• 结果表明，近似差分隐私在样本效率方面可显著优于纯差分隐私，尤其是在对 $ \delta $ 的依赖方面。