[论文解读] Differentially Private Obfuscation Mechanisms for Hiding Probability Distributions.

Yusuke Kawamoto, Takao Murakami|arXiv (Cornell University)|Dec 3, 2018

Privacy-Preserving Technologies in Data被引用 9

一句话总结

本文提出了分布隐私（distribution privacy），一种针对概率分布的本地差分隐私形式，并提出了新型混淆技术——拼接机制（tupling mechanism），通过添加随机虚假数据来改善隐私-效用权衡。实验表明，该机制在保护基于位置服务中的用户属性方面优于现有本地机制，同时保持了更高的服务质量。

ABSTRACT

We introduce a formal model for the information leakage of probability distributions and define a notion called distribution privacy as the local differential privacy for probability distributions. Roughly, the distribution privacy of a local obfuscation mechanism means that the attacker cannot significantly gain any information on the distribution of the mechanism's input by observing its output. Then we show that existing local mechanisms can hide input distributions in terms of distribution privacy, while deteriorating the utility by adding too much noise. For example, we prove that the Laplace mechanism needs to add a large amount of noise proportionally to the infinite Wasserstein distance between the two distributions we want to make indistinguishable. To improve the tradeoff between distribution privacy and utility, we introduce a local obfuscation mechanism, called a tupling mechanism, that adds random dummy data to the output. Then we apply this mechanism to the protection of user attributes in location based services. By experiments, we demonstrate that the tupling mechanism outperforms popular local mechanisms in terms of attribute obfuscation and service quality.

研究动机与目标

• 正式定义概率分布的信息泄露，并将分布隐私定义为本地混淆机制的一种隐私保障。
• 识别现有本地机制（如拉普拉斯机制）在实现分布隐私时保持效用的局限性。
• 设计一种新型混淆机制，通过向输出中添加随机虚假数据，改善分布隐私与效用之间的权衡。
• 在基于位置服务中用户属性保护的背景下评估所提出的机制。
• 证明新机制在提供更强隐私保障的同时，保持了比现有方法更高的服务质量。

提出的方法

• 提出一个正式模型以度量概率分布的信息泄露，将分布隐私定义为本地差分隐私的一种变体。
• 分析现有本地机制（如拉普拉斯机制），并表明其需要与分布间无穷范数Wasserstein距离成比例的噪声，从而导致效用下降。
• 引入拼接机制，通过向机制输出中注入随机虚假数据来增强混淆效果。
• 将拼接机制应用于基于位置服务中的用户属性保护，其中输入分布代表用户的移动模式。
• 通过实验评估，比较拼接机制与标准本地机制在隐私和服务质量方面的表现。
• 使用Wasserstein距离作为度量，量化不同混淆机制下输入分布的不可区分性。

实验结果

研究问题

• RQ1 如何在本地环境下正式定义概率分布混淆的隐私保障？
• RQ2 现有本地混淆机制（如拉普拉斯机制）在保护输入分布时，其效用退化程度如何？
• RQ3 能否设计一种新型混淆机制，在减少噪声的同时维持分布隐私，从而改善隐私-效用权衡？
• RQ4 与标准机制相比，所提出的拼接机制在真实应用场景（如基于位置的服务）中的表现如何？
• RQ5 在属性保护中，向混淆输出添加虚假数据对隐私和服务质量的影响是什么？

主要发现

• 拉普拉斯机制需要与分布间无穷范数Wasserstein距离成比例的噪声，导致显著的效用损失。
• 拼接机制通过向输出添加随机虚假数据，成功改善了隐私-效用权衡，减少了对过度噪声的依赖。
• 实验结果表明，拼接机制在属性混淆和服务质量方面均优于主流本地机制。
• 所提出的机制在不损害基于位置服务的准确性或可用性的情况下，实现了更强的分布隐私。
• 拼接机制中添加虚假数据有效掩盖了真实输入分布，使攻击者更难推断出敏感的用户属性。
• 该机制在输入分布复杂或高维的场景（如用户移动模式）中尤为有效。