[论文解读] Back to the Drawing Board: Revisiting the Design of Optimal Location Privacy-preserving Mechanisms

Simon Oya, Carmela Troncoso+1 more|arXiv (Cornell University)|May 24, 2017

Privacy-Preserving Technologies in Data参考文献 24被引用 11

一句话总结

本文挑战了仅通过最小化对手估计误差即可确保强位置隐私的假设，表明在该准则下最优的机制仍可能泄露显著的隐私信息。研究提出在隐私评估中引入互补指标——条件熵用于信息论不确定性度量，最差质量损失用于效用保障，并提出一种机制，在保持最优平均误差的同时最大化条件熵，利用真实世界数据集在多维隐私标准下优于先前方法。

ABSTRACT

In the last years we have witnessed the appearance of a variety of strategies to design optimal location privacy-preserving mechanisms, in terms of maximizing the adversary's expected error with respect to the users' whereabouts. In this work, we take a closer look at the defenses created by these strategies and show that, even though they are indeed optimal in terms of adversary's correctness, not all of them offer the same protection when looking at other dimensions of privacy. To avoid "bad" choices, we argue that the search for optimal mechanisms must be guided by complementary criteria. We provide two example auxiliary metrics that help in this regard: the conditional entropy, that captures an information-theoretic aspect of the problem; and the worst-case quality loss, that ensures that the output of the mechanism always provides a minimum utility to the users. We describe a new mechanism that maximizes the conditional entropy and is optimal in terms of average adversary error, and compare its performance with previously proposed optimal mechanisms using two real datasets. Our empirical results confirm that no mechanism fares well on every privacy criteria simultaneously, making apparent the need for considering multiple privacy dimensions to have a good understanding of the privacy protection a mechanism provides.

研究动机与目标

• 挑战当前普遍认为最小化对手估计误差即可确保位置混淆机制中强隐私的假设。
• 证明在平均误差准则下最优的机制在通过其他维度评估时仍可能提供弱隐私。
• 提出互补的隐私度量指标——条件熵和最差质量损失，以指导设计更鲁棒的位置隐私机制。
• 开发并评估一种新机制，该机制在保持最优平均误差性能的同时最大化条件熵。
• 利用真实世界位置数据集，在多个隐私标准下对多种机制进行实证比较。

提出的方法

• 提出条件熵作为信息论度量，用于量化对手对其真实位置后验信念中的不确定性。
• 引入最差质量损失作为效用约束度量，确保在对手估计下仍能保持最低服务质量。
• 开发一种机制，在保持对手平均估计误差最优的同时最大化条件熵，采用后验指数机制实现。
• 将Chatzikokolakis等人（2016）提出的重映射技术适配为从任意基础混淆机制构造最优机制的通用方法。
• 采用线性规划与贝叶斯建模，在效用约束下设计机制，重点关注以用户为中心、间歇性位置报告的场景。
• 使用真实世界数据集（Gowalla 和 Brightkite）在多个隐私与效用度量下实证评估机制。

实验结果

研究问题

• RQ1 在平均对手估计误差最小化的机制中，当通过其他准则评估时，是否仍可能提供弱隐私？
• RQ2 信息论度量如条件熵和最差质量损失如何改善位置隐私机制的评估？
• RQ3 能否设计一种机制，在平均误差上最优的同时也最大化条件熵？
• RQ4 不同隐私度量之间是否存在相关性？能否设计一种机制在所有维度上均表现良好？
• RQ5 在真实世界数据上，使用多维度隐私标准评估时，最优机制的实证性能如何？

主要发现

• 无单一机制能同时在所有隐私标准下表现良好，证实了多维评估的必要性。
• 所提出的机制在保持最优平均误差的同时最大化条件熵，在信息论隐私方面优于现有机制。
• Chatzikokolakis 等人（2016）提出的重映射技术被证明是从未知混淆机制构造最优机制的通用方法。
• 在Gowalla和Brightkite数据集上的实证结果表明，平均误差最优的机制仍可能导致高对手正确率和低不确定性，表明隐私保护效果差。
• 条件熵与最差质量损失作为互补度量，能有效用于评估与指导隐私保护机制的设计。
• 本研究表明，仅依赖对手误差作为度量会导致次优隐私选择，即使机制在该准则下数学上最优。