[论文解读] Randomization Resilient To Sensitive Reconstruction

Ke Wang, Chao Han+1 more|arXiv (Cornell University)|Feb 15, 2012

Privacy-Preserving Technologies in Data参考文献 21被引用 3

一句话总结

本文提出了 $(\varepsilon,\delta)$-重构隐私（reconstruction-privacy），这是一种新颖的隐私定义，通过确保此类重构在高概率下具有高误差，从而限制微重构攻击（即攻击者推断特定个体敏感属性）的准确性。该方法通过减少独立随机化试验次数来削弱微重构攻击，同时保持聚合重构的准确性，在真实数据集上验证了其在隐私-效用权衡上的改进。

ABSTRACT

With the randomization approach, sensitive data items of records are randomized to protect privacy of individuals while allowing the distribution information to be reconstructed for data analysis. In this paper, we distinguish between reconstruction that has potential privacy risk, called micro reconstruction, and reconstruction that does not, called aggregate reconstruction. We show that the former could disclose sensitive information about a target individual, whereas the latter is more useful for data analysis than for privacy breaches. To limit the privacy risk of micro reconstruction, we propose a privacy definition, called (epsilon,delta)-reconstruction-privacy. Intuitively, this privacy notion requires that micro reconstruction has a large error with a large probability. The promise of this approach is that micro reconstruction is more sensitive to the number of independent trials in the randomization process than aggregate reconstruction is; therefore, reducing the number of independent trials helps achieve (epsilon,delta)-reconstruction-privacy while preserving the accuracy of aggregate reconstruction. We present an algorithm based on this idea and evaluate the effectiveness of this approach using real life data sets.

研究动机与目标

• 为应对微重构攻击带来的隐私风险，即攻击者利用非敏感属性和扰动数据推断特定个体的敏感属性。
• 形式化一种新的隐私定义 $(\varepsilon,\delta)$-重构隐私，限制微重构的准确性，同时允许有用的聚合重构。
• 证明减少独立随机化试验次数对微重构的影响大于对聚合重构的影响，从而实现更优的隐私-效用权衡。
• 提供一种基于此洞察的实用算法，在保持数据分析效用的同时抵抗针对性推断攻击。

提出的方法

• 引入微重构（隐私风险）与聚合重构（对分析有用）之间的区分，实现针对性的隐私保护。
• 提出 $(\varepsilon,\delta)$-重构隐私，要求微重构的误差超过 $\varepsilon$ 的概率至少为 $1-\delta$。
• 利用切尔诺夫不等式推导尾部概率的上界，确保微重构的准确性受到限制。
• 减少独立随机化试验次数，以增加微重构的误差，同时保持聚合重构的准确性。
• 采用最大似然估计（MLE）来估计微群体中的频率，利用观测到的扰动数据评估重构风险。
• 使用真实数据集（EDU-500K 和 OCC-500K）验证该方法，测量不同群体大小和频率分布下的误差率与隐私泄露情况。

实验结果

研究问题

• RQ1 当非敏感属性已知时，微重构攻击是否能够绕过传统的隐私定义（如 $\rho_1$-$\rho_2$ 隐私）？
• RQ2 如何形式化一种隐私定义，以专门限制微重构的准确性，同时保持聚合重构的效用？
• RQ3 减少独立随机化试验次数是否对微重构的影响大于对聚合重构的影响？
• RQ4 所提出的 $(\varepsilon,\delta)$-重构隐私定义在真实世界数据集中能在多大程度上减少隐私泄露？

主要发现

• 在 EDU-500K 中，当 $\lambda=0.1$ 且 $\varepsilon=0.2$ 时，Group 2 中 74 个记录中有 25 个的微重构误差超过 20%，表明敏感属性估计的误差显著。
• 在 OCC-500K 中，当 $\lambda=0.1$ 且 $\varepsilon=0.2$ 时，Group 2 中 213 个记录中有 28 个误差大于 20%，证实了在所提机制下存在显著的微重构误差。
• 对于敏感属性频率较高的群体（如 EDU-500K 中的 76–87%），微重构估计的准确性显著高于整体数据集（2.5%），暴露了隐私风险。
• 将 $\lambda$ 从 0.1 降低到 0.05 增加了微重构的误差，表明更低的噪声水平（更高的 $\lambda$）通过增加误差提升了隐私保护。
• 即使在微重构受到严重惩罚的情况下，该方法仍能保持聚合重构的准确性，显示出有利的隐私-效用权衡。
• 该方法通过确保微重构误差在高概率下较大，有效限制了隐私泄露，满足 $(\varepsilon,\delta)$-重构隐私定义。