[论文解读] Differential Private Noise Adding Mechanism and Its Application on Consensus

Jianping He, Lin Cai|arXiv (Cornell University)|Nov 27, 2016

Privacy-Preserving Technologies in Data参考文献 7被引用 4

一句话总结

本文提出了一种通用的理论框架，用于分析随机噪声添加机制中的差分隐私，建立了 $\epsilon$-差分隐私的必要且充分条件，以及 $(\epsilon,\delta)$-差分隐私的充分条件。证明了在任何隐私保护共识算法中，平均共识与 $\epsilon$-差分隐私无法同时实现，为分析拉普拉斯和正态分布之外的任意噪声分布提供了统一工具。

ABSTRACT

Differential privacy is a formal mathematical {stand-ard} for quantifying the degree of that individual privacy in a statistical database is preserved. To guarantee differential privacy, a typical method is adding random noise to the original data for data release. In this paper, we investigate the conditions of differential privacy considering the general random noise adding mechanism, and then apply the obtained results for privacy analysis of the privacy-preserving consensus algorithm. Specifically, we obtain a necessary and sufficient condition of $ε$-differential privacy, and the sufficient conditions of $(ε, δ)$-differential privacy. We apply them to analyze various random noises. For the special cases with known results, our theory matches with the literature; for other cases that are unknown, our approach provides a simple and effective tool for differential privacy analysis. Applying the obtained theory, on privacy-preserving consensus algorithms, it is proved that the average consensus and $ε$-differential privacy cannot be guaranteed simultaneously by any privacy-preserving consensus algorithm.

研究动机与目标

• 建立随机噪声添加机制保证差分隐私的一般条件。
• 提供一种适用于任意噪声分布的统一分析工具，不限于拉普拉斯或正态分布。
• 分析隐私-精度权衡在隐私保护共识算法中的表现。
• 证明在共识算法中无法同时实现平均共识与 $\epsilon$-差分隐私。
• 根据噪声分布特性，估算隐私参数 $\epsilon$ 和 $\delta$ 的上界。

提出的方法

• 基于噪声分布的概率密度函数之比，推导出 $\epsilon$-差分隐私的必要且充分条件。
• 利用尾部概率界限和噪声分布特性，建立 $(\epsilon,\delta)$-差分隐私的充分条件。
• 将理论框架应用于拉普拉斯、正态和均匀噪声的分析，验证已知结果并拓展至未知情形。
• 利用推导出的条件，通过比较差分隐私的必要条件与共识收敛条件，分析隐私保护共识算法。
• 通过敏感性与噪声分布的数学分析，推导 $\epsilon$ 和 $\delta$ 的上界。
• 采用反证法证明无法同时实现平均共识与 $\epsilon$-差分隐私。

实验结果

研究问题

• RQ1 在何种噪声分布条件下，随机噪声添加机制能保证 $\epsilon$-差分隐私？
• RQ2 噪声机制实现 $(\epsilon,\delta)$-差分隐私的充分条件是什么？
• RQ3 所提出的框架能否分析拉普拉斯和正态分布之外的任意噪声分布？
• RQ4 在共识算法中是否可能同时实现平均共识与 $\epsilon$-差分隐私？
• RQ5 噪声分布的参数如何影响 $\epsilon$ 和 $\delta$ 的上界？

主要发现

• 基于相邻数据点处噪声概率密度函数的比值，推导出 $\epsilon$-差分隐私的必要且充分条件。
• 利用尾部概率界限和噪声分布特性，建立了 $(\epsilon,\delta)$-差分隐私的充分条件。
• 该框架证实拉普拉斯噪声可实现 $\epsilon$-差分隐私，正态噪声可实现 $(\epsilon,\delta)$-差分隐私，与先前结果一致。
• 在所提出的框架下，首次发现均匀噪声为 $(0,\delta)$-差分私有。
• 证明了不存在任何隐私保护共识算法能同时实现平均共识与 $\epsilon$-差分隐私。
• 根据噪声分布参数估算出 $\epsilon$ 和 $\delta$ 的上界，从而实现对隐私-精度权衡的定量分析。