[论文解读] Bayesian and Frequentist Semantics for Common Variations of Differential Privacy: Applications to the 2020 Census

Daniel Kifer, John M. Abowd+6 more|arXiv (Cornell University)|Sep 7, 2022

Privacy-Preserving Technologies in Data被引用 10

一句话总结

本文对五种主要差分隐私变体——纯差分隐私、近似差分隐私、Rényi差分隐私、零集中差分隐私以及f-差分隐私——在2020年美国人口普查选区划分数据中的隐私语义提供了全面的解释。它提出了概率有界差分隐私（pbdp），以提升隐私损失参数的可解释性；通过频率学假设检验和贝叶斯后验到后验比较来构建隐私保障；并为Rényi和零集中差分隐私提供了新的贝叶斯语义，从而在现实世界数据发布中实现定制化、细粒度的隐私保障。

ABSTRACT

The purpose of this paper is to guide interpretation of the semantic privacy guarantees for some of the major variations of differential privacy, which include pure, approximate, Rényi, zero-concentrated, and $f$ differential privacy. We interpret privacy-loss accounting parameters, frequentist semantics, and Bayesian semantics (including new results). The driving application is the interpretation of the confidentiality protections for the 2020 Census Public Law 94-171 Redistricting Data Summary File released August 12, 2021, which, for the first time, were produced with formal privacy guarantees.

研究动机与目标

• 澄清2020年人口普查中使用的几种关键差分隐私变体的统计语义，以支持政策与技术决策。
• 通过引入概率有界差分隐私（pbdp），解决近似差分隐私中δ参数的广泛误解问题。
• 从频率学与贝叶斯视角统一并解释纯差分隐私、近似差分隐私、Rényi差分隐私、零集中差分隐私以及f-差分隐私的隐私损失参数。
• 提供一个评估现实世界数据发布中隐私保障的框架，特别是针对2020年人口普查选区划分数据，采用后验到后验比较方法。

提出的方法

• 提出概率有界差分隐私（pbdp）作为f-差分隐私的重新参数化形式，以提升隐私损失参数的可解释性。
• 通过隐私损失随机变量（PLRV）的视角分析隐私保障，将其与似然比检验和频率学假设检验联系起来。
• 应用贝叶斯后验到后验比较来评估隐私，避免将一般知识与隐私泄露混淆的错误的先验到后验比较。
• 推导出Rényi和零集中差分隐私的新贝叶斯语义，展示其与pbdp的关联性，并提供后验比变化的边界。
• 以2020年人口普查披露避免系统（DAS）作为实际应用场景，将理论隐私语义与现实实现相结合。
• 将多种隐私定义整合为一个连贯的框架，支持细粒度、上下文相关的隐私保障。

实验结果

研究问题

• RQ1 不同差分隐私变体的隐私损失参数在政策与统计语境中应如何实现有意义的解释？
• RQ2 差分隐私定义的频率学含义是什么，特别是在假设检验中第一类与第二类错误权衡方面？
• RQ3 为何贝叶斯后验到后验比较能提供比传统先验到后验比较更细致的隐私保障？
• RQ4 近似差分隐私中的δ参数起什么作用，为何其常被误解？
• RQ5 概率有界差分隐私（pbdp）为何可作为标准近似DP的更可解释的替代方案？

主要发现

• 本文提出了概率有界差分隐私（pbdp），即f-差分隐私的重新参数化形式，其隐私损失参数比标准(ε,δ)-DP更具可解释性。
• 为Rényi和零集中差分隐私推导出新的贝叶斯语义，表明在现实攻击者先验下，这些定义能提供有意义的后验到后验隐私保障。
• 隐私损失随机变量（PLRV）框架使差分隐私与频率学假设检验之间建立了直接联系，其中隐私参数控制第一类与第二类错误之间的权衡。
• 研究表明，不同隐私定义不可互换，必须结合使用纯差分隐私、近似差分隐私、Rényi差分隐私、zCDP以及f-DP，才能实现全面的隐私语义解释。
• 2020年人口普查选区划分数据通过针对性地使用这些定义，实现了细粒度的隐私保障，其中pbdp为近似DP中的δ提供了一种更透明的替代方案。
• 本文表明，基于后验到后验比较的贝叶斯隐私语义可避免先验到后验比较的陷阱，从而实现对个体隐私风险更准确的评估。