[论文解读] Differentially Private Mechanisms for Count Queries

Parastoo Sadeghi, Shahab Asoodeh+1 more|arXiv (Cornell University)|Jul 18, 2020

Privacy-Preserving Technologies in Data参考文献 10被引用 5

一句话总结

本文提出了一种新颖的计数查询差分隐私机制，通过添加整数值噪声以同时保护隐私并保持输出为整数格式。通过优化噪声分布参数以平衡效用与隐私，该机制在相同效用条件下，相较于离散拉普拉斯机制，实现了更紧致的 $(\varepsilon, \delta)$-差分隐私界，尤其在中等隐私预算下表现更优。

ABSTRACT

In this paper, we consider the problem of responding to a count query (or any other integer-valued queries) evaluated on a dataset containing sensitive attributes. To protect the privacy of individuals in the dataset, a standard practice is to add continuous noise to the true count. We design a differentially-private mechanism which adds integer-valued noise allowing the released output to remain integer. As a trade-off between utility and privacy, we derive privacy parameters $\eps$ and $δ$ in terms of the the probability of releasing an erroneous count under the assumption that the true count is no smaller than half the support size of the noise. We then numerically demonstrate that our mechanism provides higher privacy guarantee compared to the discrete Gaussian mechanism that is recently proposed in the literature.

研究动机与目标

• 设计一种用于整数值计数查询的差分隐私机制，通过使用整数值噪声确保输出仍为整数。
• 显式平衡隐私（以 $\varepsilon$ 和 $\delta$ 衡量）与效用（以误差概率 $\eta$ 衡量）之间的权衡。
• 通过确保噪声支持有限且在差分隐私约束下最小化误差概率，超越现有机制（如离散高斯和几何机制）。
• 通过数值实验展示，在噪声方差和误差概率相等的条件下，该机制在隐私-效用性能上优于离散高斯机制。

提出的方法

• 该机制向真实计数 $n$ 添加一个大小为 $2D+1$、以零为中心的有限支持整数值噪声。
• 通过凸优化框架优化噪声概率，以在给定 $\varepsilon$ 和误差概率 $\eta$ 的条件下最小化 $\delta$。
• 隐私参数 $\varepsilon$ 和 $\delta$ 基于查询的敏感性以及噪声分布尾部行为推导得出。
• 最优噪声分布由 $\eta \in (0,1)$ 参数化，表示允许的最大错误计数概率。
• 该方法使用约束优化问题（定义2）计算噪声概率的最优系数 $\alpha_i^*$，以确保差分隐私。
• 通过匹配噪声方差 $\sigma^2(\eta, D, \varepsilon)$ 并利用文献[12]中的定理7评估所得 $\delta$ 值，将性能与离散高斯机制进行比较。

实验结果

研究问题

• RQ1 能否设计一种用于计数查询的差分隐私机制，使其输出仅为整数，同时保持强隐私保证？
• RQ2 在整数值噪声机制中，如何显式优化隐私（$\varepsilon, \delta$）与效用（误差概率 $\eta$）之间的权衡？
• RQ3 具有有限支持的整数值噪声机制是否在隐私-效用权衡上优于具有无限支持的离散高斯机制？
• RQ4 噪声支持大小 $D$ 和误差概率 $\eta$ 对最终 $\varepsilon$ 和 $\delta$ 参数有何影响？

主要发现

• 当 $D=8$ 时，所提机制在 $\eta = 0.5$ 时实现 $(1.1, 10^{-3})$-DP，在 $\eta = 0.8$ 时实现 $(2.2, 5 \times 10^{-7})$-DP，表明其隐私界更紧致。
• 当噪声方差和误差概率 $\eta$ 相匹配时，该机制在 $(\varepsilon, \delta)$-DP 性能上优于离散高斯机制。
• 数值结果表明，该机制在广泛的隐私参数范围内优于离散高斯机制，尤其在 $\varepsilon < 1.1$ 时，后者表现较差。
• 通过凸优化推导出最优噪声分布，确保在给定 $\varepsilon$ 和 $\eta$ 条件下 $\delta$ 最小化，且显式依赖于 $D$ 和 $\eta$。
• 该机制保持整数输出和有限噪声支持，避免了在高隐私场景下其他机制可能出现的极端输出风险（如 $Y=0$ 或 $Y=\max n$）。