[论文解读] Small Count Privacy and Large Count Utility in Data Publishing

Ada Wai-Chee Fu, Jia Wang+2 more|arXiv (Cornell University)|Feb 15, 2012

Privacy-Preserving Technologies in Data参考文献 35被引用 7

一句话总结

本文提出了一种新颖的隐私保护数据发布机制，通过特别保护来自小计数聚合查询（如罕见疾病）的敏感信息，增强差分隐私，同时为大计数查询保留高实用性。该方法利用大数定律，并引入一种改进的差分隐私形式，确保大群体结果准确、小群体结果误差较高，其在实用性方面优于现有最先进方法，且未牺牲对小计数敏感信息的隐私保护。

ABSTRACT

While the introduction of differential privacy has been a major breakthrough in the study of privacy preserving data publication, some recent work has pointed out a number of cases where it is not possible to limit inference about individuals. The dilemma that is intrinsic in the problem is the simultaneous requirement of data utility in the published data. Differential privacy does not aim to protect information about an individual that can be uncovered even without the participation of the individual. However, this lack of coverage may violate the principle of individual privacy. Here we propose a solution by providing protection to sensitive information, by which we refer to the answers for aggregate queries with small counts. Previous works based on $\ell$-diversity can be seen as providing a special form of this kind of protection. Our method is developed with another goal which is to provide differential privacy guarantee, and for that we introduce a more refined form of differential privacy to deal with certain practical issues. Our empirical studies show that our method can preserve better utilities than a number of state-of-the-art methods although these methods do not provide the protections that we provide.

研究动机与目标

• 解决数据发布中的隐私-实用性困境，即高实用性可能无意中泄露来自小计数查询的敏感信息。
• 识别并保护可从发布数据中推断出的敏感信息，即使这些信息未被标准差分隐私所保护。
• 开发一种机制，提供差分隐私保证和区分性实用性——对大计数准确、对小计数模糊——且不依赖辅助知识。
• 克服现有方法（如ℓ-多样性与传统差分隐私）的局限性，这些方法无法有效防范来自小计数查询的推断攻击。

提出的方法

• 引入一种改进的差分隐私形式，称为ℓ′-偏移零差分隐私，以确保个体参与对查询结果的影响最小化。
• 根据群体规模对敏感属性实施随机化，利用大数定律减少大群体的噪声并增加小群体的噪声。
• 采用无参数机制，唯一可配置参数为ℓ′，用于控制小计数的阈值，实验表明ℓ′ ≥ 5 时可实现强实用性。
• 使用数据净化过程，对敏感值进行扰动，以在保持大群体统计准确性的同时隐藏稀有模式。
• 设计机制以抵御辅助知识攻击，允许敏感属性域中的任意值，防止通过已知非敏感属性实现值关联。
• 确保发布数据对涉及大群体的聚合查询保持高实用性，而小计数查询则被有意扰动以防止信息泄露。

实验结果

研究问题

• RQ1 能否设计一种数据发布机制，即使在标准差分隐私未保护的情况下，也能为来自小计数聚合查询的敏感信息提供强隐私保障？
• RQ2 如何增强差分隐私以防范基于小计数的推断攻击，同时不牺牲大计数查询的实用性？
• RQ3 机制在多大程度上可通过在聚合查询中区分大群体与小群体，实现隐私与实用性的平衡？
• RQ4 是否可能设计一种无参数或极简参数化的机制，以确保大计数的高实用性与小计数的强隐私保护？
• RQ5 与现有最先进方法相比，该方法在实用性与隐私保护方面表现如何，尤其是那些未明确保护小计数查询的方法？

主要发现

• 在真实数据集上的实验证明，所提方法在实用性方面显著优于未对小计数查询提供保护的现有最先进方法。
• 将ℓ′设置为5或更高时，可实现强实用性表现，且对隐私影响极小，表明该方法对参数选择具有鲁棒性。
• 通过引入高误差，该机制成功保护了来自小计数查询的敏感信息（如罕见疾病），防止了链接攻击。
• 该方法在维持差分隐私保证的同时，确保即使攻击者拥有辅助知识，也能使小计数的敏感推断被模糊化。
• 实证结果表明，大计数查询的估计具有高准确性，而小计数查询则因大量噪声被隐藏，实现了理想的区分性实用性。
• 该机制对辅助知识攻击具有鲁棒性，因其允许敏感属性域中的任意值，消除了通过关联攻击重建原始值的风险。