[论文解读] The Podium Mechanism: Improving on the Laplace and Staircase Mechanisms

Vasyl Pihur|arXiv (Cornell University)|May 1, 2019

Privacy-Preserving Technologies in Data参考文献 21被引用 7

一句话总结

Podium机制是一种新颖的差分隐私算法，通过使用具有截断支持的三个均匀分布的有限混合，相较于拉普拉斯分布和楼梯机制，显著提升了效用。该机制在高隐私场景（ε < 1）下将噪声方差降低了高达70%，同时通过输入相关的噪声整形，保持了(ε, 0)-差分隐私。

ABSTRACT

The Podium mechanism guarantees ($ε, 0$)-differential privacy by sampling noise from a \emph{finite} mixture of three uniform distributions. By carefully constructing such a mixture distribution, we trivially guarantee privacy properties, while minimizing the variance of the noise added to our continuous outcome. Our gains in variance control are due to the "truncated" nature of the Podium mechanism where support for the noise distribution is maintained as close as possible to the sensitivity of our data collection, unlike the \emph{infinite} support that characterizes both the Laplace and Staircase mechanisms. In a high-privacy regime ($ε&lt; 1$), the Podium mechanism outperforms the other two by 50-70\% in terms of the noise variance reduction, while in a low privacy regime ($ε o \infty$), it asymptotically approaches the Staircase mechanism.

研究动机与目标

• 通过在不牺牲隐私保证的前提下减少噪声方差，解决差分隐私中的效用-隐私权衡问题。
• 开发一种保持有限输出支持的机制，避免拉普拉斯和楼梯机制中常见的极端异常值。
• 通过使用截断的、与输入相关的噪声分布，最小化噪声方差，改进拉普拉斯机制在高隐私场景（ε < 1）下的低效性。
• 提供一种实用的拉普拉斯机制替代方案，在效用上优于拉普拉斯机制，同时适用于拉普拉斯机制的所有应用场景。
• 证明通过精心构造，有限支持的噪声分布可以实现(ε, 0)-差分隐私，挑战了无限支持是必要条件的假设。

提出的方法

• Podium机制从三个均匀分布的有限混合中采样噪声，其支持范围由数据敏感度Δ限定。
• 它根据输入值x动态调整噪声分布的形状，确保噪声以x为中心，避免偏差。
• 该机制使用阶跃函数定义噪声分布，阶跃位置t根据每个输入计算得出，以同时保障隐私与效用。
• 它利用截断技术将噪声支持限制在[−Δ, Δ]范围内，相比拉普拉斯等无限支持分布，显著降低了方差。
• 噪声分布的构造确保通过精确的(ε, 0)-差分隐私实现隐私保护，无需依赖δ-近似。
• 该方法仅需生成两个均匀随机变量，并在每次添加噪声时计算阶跃位置t，计算开销极低。

实验结果

研究问题

• RQ1 有限支持的噪声分布是否能在保持(ε, 0)-差分隐私的同时，相比拉普拉斯和楼梯机制降低噪声方差？
• RQ2 Podium机制在不同隐私水平（ε）下的噪声方差与拉普拉斯和楼梯机制相比如何？
• RQ3 在截断分布中，通过输入相关的噪声整形是否能消除偏差，同时保持隐私？
• RQ4 在高隐私场景（ε < 1）和低隐私场景（ε → ∞）下，截断对效用的影响是什么？
• RQ5 是否可能在保持相同输入输出范围（例如，年龄为[1, 120]）的同时，确保(ε, 0)-差分隐私？

主要发现

• 在高隐私场景（ε = 1）下，Podium机制相比拉普拉斯机制将噪声方差降低了约50–70%。
• 尽管楼梯机制在理论上是最优的，Podium机制在ε = 1时仍表现出比其更优的方差降低效果。
• 当ε = 5时，各机制之间的方差差异显著缩小，因为噪声方差与原始数据方差相比已可忽略。
• 由于截断，Podium机制的噪声分布在输入极值附近呈单边分布，但通过边距m保持以x为中心，避免了偏差。
• 当ε → ∞时，Podium机制在性能上渐近趋近于楼梯机制，证实其在低隐私极限下的稳定性。
• Podium机制使输出范围可与输入范围匹配（例如，年龄为[1, 120]），从而减少了负值或极端年龄等不切实际的数值。