[论文解读] On Sampling, Anonymization, and Differential Privacy: Or, k-Anonymization Meets Differential Privacy

Ninghui Li, Wahbeh Qardaji+1 more|arXiv (Cornell University)|Jan 13, 2011

Privacy-Preserving Technologies in Data参考文献 29被引用 19

一句话总结

本文证明，当在随机抽样步骤之后安全地应用k-匿名化时，可满足具有合理参数的(ε,δ)-差分隐私。它表明，抽样创造了对手的不确定性，使得安全的k-匿名化能够提供正式的隐私保障，并表明抽样可增强差分隐私算法中的隐私保护。

ABSTRACT

This paper aims at answering the following two questions in privacy-preserving data analysis and publishing: What formal privacy guarantee (if any) does $k$-anonymization provide? How to benefit from the adversary's uncertainty about the data? We have found that random sampling provides a connection that helps answer these two questions, as sampling can create uncertainty. The main result of the paper is that $k$-anonymization, when done "safely", and when preceded with a random sampling step, satisfies $(ε,δ)$-differential privacy with reasonable parameters. This result illustrates that "hiding in a crowd of $k$" indeed offers some privacy guarantees. This result also suggests an alternative approach to output perturbation for satisfying differential privacy: namely, adding a random sampling step in the beginning and pruning results that are too sensitive to change of a single tuple. Regarding the second question, we provide both positive and negative results. On the positive side, we show that adding a random-sampling pre-processing step to a differentially-private algorithm can greatly amplify the level of privacy protection. Hence, when given a dataset resulted from sampling, one can utilize a much large privacy budget. On the negative side, any privacy notion that takes advantage of the adversary's uncertainty likely does not compose. We discuss what these results imply in practice.

研究动机与目标

• 确定在存在对手不确定性的情况下，k-匿名化是否能提供正式的隐私保障。
• 探索是否可以利用通过随机抽样建模的对手不确定性，来放松差分隐私。
• 确定在何种条件下，k-匿名化可以安全地应用以实现差分隐私。
• 研究依赖于对手不确定性的隐私概念的可组合性及其实际影响。

提出的方法

• 提出了一类‘安全’的k-匿名化算法，避免了现有k-匿名化方法中的已知隐私漏洞。
• 提出一个两步流程：首先对数据集进行随机抽样，然后应用安全的k-匿名化算法。
• 证明该流程在合理的ε和δ参数下满足(ε,δ)-差分隐私。
• 分析抽样如何通过增加对手对个体数据是否存在性的不确定性来增强隐私保护。
• 证明抽样可使差分隐私算法中的隐私预算更高。
• 通过理论分析表明，依赖于对手不确定性的隐私概念通常不具备可组合性。

实验结果

研究问题

• RQ1 当与随机抽样结合时，k-匿名化提供了何种正式的隐私保障？
• RQ2 是否可以利用由抽样引起的对手不确定性，来放松差分隐私，同时保持强隐私属性？
• RQ3 在抽样之后，k-匿名化在何种条件下满足差分隐私？
• RQ4 抽样如何影响差分隐私算法中的隐私预算和误差容忍度？
• RQ5 基于对手不确定性的隐私概念在多次查询下是否具有可组合性？

主要发现

• 在随机抽样之后应用安全的k-匿名化，可在合理的ε和δ参数下满足(ε,δ)-差分隐私。
• 随机抽样为对手创造了有意义的不确定性，这种不确定性可被利用以增强隐私保障。
• 抽样步骤使得k-匿名化能够在差分隐私框架中使用，尽管k-匿名化本身并不能保证差分隐私。
• 抽样增强了隐私保护：当在差分隐私算法之前应用时，可允许更大的隐私预算。
• 依赖于对手不确定性的隐私概念（如基于抽样的概念）通常在多次查询下不具备可组合性。
• 先抽样后k-匿名化的策略在隐私增强和鲁棒性方面优于相反顺序。