[论文解读] Cardinality Estimators do Not Preserve Privacy

Damien Desfontaines, Andreas Lochbihler+1 more|arXiv (Cornell University)|Aug 17, 2018

Privacy-Preserving Technologies in Data参考文献 1被引用 1

一句话总结

本文表明，像 HyperLogLog 这类基数估算器由于其固有的聚合特性，无法保护隐私。即使在一种较弱的隐私定义下（攻击者对目标数据的存在与否无先验知识），这些算法仍会泄露关于个体数据元素的显著信息，其敏感程度与原始数据相当。

ABSTRACT

Cardinality estimators like HyperLogLog are sketching algorithms that estimate the number of distinct elements in a large multiset. Their use in privacy-sensitive contexts raises the question of whether they leak private information. In particular, can they provide any privacy guarantees while preserving their strong aggregation properties? We formulate an abstract notion of cardinality estimators, that captures this aggregation requirement: one can merge sketches without losing precision. We propose an attacker model and a corresponding privacy definition, strictly weaker than differential privacy: we assume that the attacker has no prior knowledge of the data. We then show that if a cardinality estimator satisfies this definition, then it cannot have a reasonable level of accuracy. We prove similar results for weaker versions of our definition, and analyze the privacy of existing algorithms, showing that their average privacy loss is significant, even for multisets with large cardinalities. We conclude that strong aggregation requirements are incompatible with any reasonable definition of privacy, and that cardinality estimators should be considered as sensitive as raw data. We also propose risk mitigation strategies for their real-world applications.

研究动机与目标

• 研究基数估算器在保持强大聚合能力的同时，是否能提供隐私保障。
• 定义一个形式化的攻击者模型和隐私定义，其严格弱于差分隐私，但仍对实际系统具有实际意义。
• 证明任何满足该隐私定义的基数估算器都无法实现合理的准确性。
• 分析广泛使用的算法（如 HyperLogLog 和 HyperLogLog++）的实际隐私损失。
• 为基数估算器在现实世界中的部署提出风险缓解策略。

提出的方法

• 提出一个抽象的基数估算器模型，捕捉其关键属性：幂等性、交换性和行为良好的合并操作。
• 基于知识增益提出一种隐私定义，假设攻击者对目标数据在数据集中是否存在无先验知识。
• 使用信息论分析表明，任何满足该隐私定义的估算器都必须具有不可接受的低准确性。
• 通过实验测量 HyperLogLog 和 HyperLogLog++ 在各种基数和攻击场景下的平均隐私损失。
• 提出缓解策略，包括限制 API 访问和哈希加盐，以限制对 sketch 内部结构的直接访问。
• 分析同态加密作为潜在隐私保护替代方案的可行性，尽管其计算成本较高。

实验结果

研究问题

• RQ1 在假设攻击者对目标数据存在无先验知识的弱隐私定义下，基数估算器能否保护隐私？
• RQ2 是否可能设计出一种满足所提隐私定义、同时保持可合并性和聚合特性的准确基数估算器？
• RQ3 广泛部署的算法（如 HyperLogLog 和 HyperLogLog++）的实际隐私泄露水平如何？
• RQ4 基数估算器的结构性质（如幂等性、交换性）如何导致不可避免的隐私泄露？
• RQ5 有哪些实用的缓解策略可降低对基数估算器 sketch 的推理攻击风险？

主要发现

• 任何满足所提隐私定义的基数估算器都必须具有不可接受的低准确性，因此在实际应用中不切实际。
• 即使在弱隐私定义下（攻击者无先验知识），基数估算器仍会泄露关于个体数据元素的显著信息。
• HyperLogLog 和 HyperLogLog++ 的平均隐私损失显著，即使在大规模多重集下亦然，表明存在较高的重新识别风险。
• 基数估算器的结构性质——幂等性、交换性和可合并性——与有意义的隐私保护本质上不相容。
• 由于其重新识别潜力，基数估算器的 sketch 应被视为与原始数据一样敏感。
• 如限制 API 和哈希加盐等风险缓解策略可减少但无法完全消除隐私泄露，尤其对有决心的攻击者而言。