[论文解读] Enabling Multi-level Trust in Privacy Preserving Data Mining

Yaping Li, Minghua Chen+2 more|arXiv (Cornell University)|Apr 4, 2011

Privacy-Preserving Technologies in Data参考文献 33被引用 5

一句话总结

本文提出多层级信任隐私保护数据挖掘（MLT-PPDM），使数据拥有者能够根据不同信任级别生成经过不同扰动的数据副本。通过使用具有“角落波”特性的协方差矩阵，在副本之间关联噪声，该方法可防止攻击者通过多样性攻击获得重构优势，确保联合推断的准确性不会优于单独使用任一副本。

ABSTRACT

Privacy Preserving Data Mining (PPDM) addresses the problem of developing accurate models about aggregated data without access to precise information in individual data record. A widely studied \emph{perturbation-based PPDM} approach introduces random perturbation to individual values to preserve privacy before data is published. Previous solutions of this approach are limited in their tacit assumption of single-level trust on data miners. In this work, we relax this assumption and expand the scope of perturbation-based PPDM to Multi-Level Trust (MLT-PPDM). In our setting, the more trusted a data miner is, the less perturbed copy of the data it can access. Under this setting, a malicious data miner may have access to differently perturbed copies of the same data through various means, and may combine these diverse copies to jointly infer additional information about the original data that the data owner does not intend to release. Preventing such \emph{diversity attacks} is the key challenge of providing MLT-PPDM services. We address this challenge by properly correlating perturbation across copies at different trust levels. We prove that our solution is robust against diversity attacks with respect to our privacy goal. That is, for data miners who have access to an arbitrary collection of the perturbed copies, our solution prevent them from jointly reconstructing the original data more accurately than the best effort using any individual copy in the collection. Our solution allows a data owner to generate perturbed copies of its data for arbitrary trust levels on-demand. This feature offers data owners maximum flexibility.

研究动机与目标

• 将基于扰动的隐私保护数据挖掘从单一信任级别假设扩展至支持多层级信任环境。
• 解决数据挖掘者若能访问多个扰动副本，可能通过多样性攻击更准确重构原始数据的风险。
• 设计一种噪声相关机制，确保在不同信任级别的副本之间不存在联合重构优势。
• 实现按需在任意信任级别生成扰动数据副本，以实现数据拥有者最大的灵活性。

提出的方法

• 该方法使用加法高斯噪声，并采用精心设计的协方差矩阵，使其具有‘角落波’结构，以在不同信任级别之间关联扰动。
• 通过均值向量和协方差矩阵，利用多元正态分布生成噪声，以强制实现副本之间的所需相关性。
• 该方法确保任何拥有多个副本的数据挖掘者的联合推断能力，不会优于仅使用最轻微扰动的副本。
• 提出三种算法：一种用于独立噪声（基线），两种用于相关噪声，其中算法3在信任级别映射方面提供最大灵活性。
• 该解决方案依赖于信任级别与扰动强度之间的一一映射，通过结构化的噪声协方差防止多样性增益。
• 理论分析证明，在将重构准确性限制在最佳单个副本水平的隐私目标下，该方法对多样性攻击具有鲁棒性。

实验结果

研究问题

• RQ1 基于扰动的隐私保护数据挖掘能否在不损害隐私的前提下扩展至支持多层级信任？
• RQ2 如何通过在不同扰动副本之间的噪声相关性来防止联合重构攻击？
• RQ3 在何种理论条件下，多个扰动副本之间不存在多样性增益？
• RQ4 所提出的方法能否在保持强隐私保证的同时实现高效实现？
• RQ5 在效用和可扩展性方面，相关噪声方法相较于独立噪声方法的性能如何？

主要发现

• 采用角落波协方差矩阵的所提方法确保，任何数据挖掘者都无法通过组合多个扰动副本比仅使用最轻微扰动的副本更准确地重构原始数据。
• 在Iris和威斯康星州乳腺癌数据集上的实验表明，所提方法下扰动数据的效用与独立噪声方案相比相当或更优，尤其在高噪声水平下表现更佳。
• 算法3的运行时间与信任级别数M近似呈线性关系，平均生成30个副本仅需0.37秒，显示出极高的效率。
• 实际运行时间显著低于理论上限O(M³ + N³ + T(M²N + MN²))，表明其具有出色的实用性能。
• 只要噪声相关性设计得当，即使多个副本泄露或被合谋，该方法仍能保持隐私鲁棒性。