[论文解读] Congenial Differential Privacy under Mandated Disclosure

Ruobin Gong, Xiao‐Li Meng|arXiv (Cornell University)|Aug 24, 2020

Privacy-Preserving Technologies in Data参考文献 17被引用 6

一句话总结

本文提出了一种友好的差分隐私（congenial differential privacy），这是一种原则化的框架，通过在不变边际上的概率条件化，将强制性数据披露约束整合到核心隐私机制中。通过确保隐私与披露阶段之间的程序兼容性，该方法消除了对临时后处理的依赖，从而在差分隐私数据发布中保持了统计有效性与透明度。

ABSTRACT

Differentially private data releases are often required to satisfy a set of external constraints that reflect the legal, ethical, and logical mandates to which the data curator is obligated. The enforcement of constraints, when treated as post-processing, adds an extra phase in the production of privatized data. It is well understood in the theory of multi-phase processing that congeniality, a form of procedural compatibility between phases, is a prerequisite for the end users to straightforwardly obtain statistically valid results. Congenial differential privacy is theoretically principled, which facilitates transparency and intelligibility of the mechanism that would otherwise be undermined by ad-hoc post-processing procedures. We advocate for the systematic integration of mandated disclosure into the design of the privacy mechanism via standard probabilistic conditioning on the invariant margins. Conditioning automatically renders congeniality because any extra post-processing phase becomes unnecessary. We provide both initial theoretical guarantees and a Markov chain algorithm for our proposal. We also discuss intriguing theoretical issues that arise in comparing congenital differential privacy and optimization-based post-processing, as well as directions for further research.

研究动机与目标

• 解决将强制性数据披露（如法律或政策要求的固定统计量）整合到差分隐私数据发布中，同时不损害隐私或统计有效性的挑战。
• 解决多阶段数据处理中的不相容性问题，即后处理步骤可能因隐私与分析阶段不兼容而导致统计推断失效。
• 提供一个理论基础坚实、透明且可理解的差分隐私框架，通过将约束直接嵌入隐私机制，避免临时后处理。
• 通过在不变边际上使用标准概率条件化，确保即使在强制执行外部约束（如边际总计）的情况下，隐私保证依然成立。

提出的方法

• 通过在不变边际（如固定行和或列和）上进行条件化，使隐私机制自然满足强制性披露要求，从而消除对后处理的需要。
• 使用标准概率条件化推导出同时尊重隐私与约束的后验分布，确保各阶段之间的相容性。
• 采用似然函数和下概率测度来表示无信息时的空缺知识，从而在隐私建模中实现对无知的严谨处理。
• 开发一种马尔可夫链蒙特卡洛（MCMC）算法，用于在复杂约束下高效生成高维差分隐私发布数据。
• 将多重填补理论中的不相容性概念引入隐私机制，将不兼容的后处理视为统计无效性的根源。
• 为所提出的机制建立理论保证，证明在不变量上进行条件化可保持差分隐私性并确保逻辑一致性。

实验结果

研究问题

• RQ1 如何系统性地将强制性数据披露整合到差分隐私数据发布中，而不损害隐私或统计有效性？
• RQ2 在发布后强制执行外部约束时，何种条件可确保隐私机制的统计有效性保持不变？
• RQ3 在多阶段数据处理中，对不变边际进行条件化如何实现相容性？为何这对有效统计推断至关重要？
• RQ4 在缺乏信息先验的情况下，似然函数与下概率在建模空缺知识中起什么作用？
• RQ5 如何设计高效的MCMC算法，从受约束的差分隐私分布中抽样，同时保持隐私保证？

主要发现

• 友好差分隐私通过概率条件化确保隐私与披露约束同时满足，消除了对后处理的需求，从而避免了不相容性。
• 所提出的方法保证隐私损失保持有界且可解析处理，因为对不变量进行条件化可保持差分隐私特性。
• 开发了一种马尔可夫链蒙特卡洛算法，可高效从受约束的差分隐私分布中抽样，即使在高维设置下亦适用。
• 该框架为使用下概率函数表示空缺知识提供了严谨基础，避免了均匀或参考先验的理论缺陷。
• 理论分析证实，对不变量进行条件化可产生唯一且一致的后验分布，解决了在隐私机制中处理外部约束时的模糊性问题。
• 该方法通过选择γ参数，可精确追踪有效隐私损失预算，从而实现对尊重不变量的算法之间的公平性能比较。