[论文解读] A Note on Differential Privacy: Defining Resistance to Arbitrary Side Information

Shiva Prasad Kasiviswanathan, Adam Smith|arXiv (Cornell University)|Jan 1, 2008

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文形式化定义了差分隐私中对任意侧信息的抗性，证明了若干宽松的差分隐私变体天然满足这一鲁棒性准则。它首次明确提出了这种贝叶斯抗性属性，并证明了其在宽松DP定义下的有效性，从而在不同攻击者先验知识场景下增强了隐私保障。

ABSTRACT

In this note we give a precise formulation of resistance to arbitrary side information and show that several relaxations of differential privacy imply it. The formulation follows the ideas originally due to Dwork and McSherry, stated implicitly in [Dw06]. This is, to our knowledge, the first place such a formulation appears explicitly. The proof that relaxed definitions satisfy the Bayesian formulation is new.

研究动机与目标

• 正式定义差分隐私中对任意侧信息的抗性，扩展Dwork与McSherry的奠基性工作。
• 确立宽松差分隐私定义（如近似差分隐私与分布式隐私）满足该抗性属性。
• 提供一个严谨的贝叶斯形式化隐私鲁棒性模型，以考虑攻击者的先验知识。
• 证明该抗性并非额外假设，而是宽松DP定义的自然结果。

提出的方法

• 本文采用贝叶斯框架形式化对侧信息的抗性，建模攻击者对敏感数据的先验信念。
• 提出一个精确的数学条件，确保攻击者在观察到隐私机制输出后，对敏感数据的后验信念不会显著改善。
• 作者分析了宽松差分隐私定义（如(ε,δ)-DP、分布式DP）如何满足该贝叶斯抗性条件。
• 证明技术涉及对机制输出下后验与先验奇偶比的有界性分析，表明其在宽松DP下保持有界。
• 该形式化被证明与Dwork（2006）的早期隐含概念一致，并实现了一般化。
• 本文使用测度论概率方法，以形式化隐私条件，使其能够容纳任意侧信息。

实验结果

研究问题

• RQ1 差分隐私能否被形式化定义为抵抗任意侧信息（包括攻击者先验知识）？
• RQ2 宽松差分隐私定义（如(ε,δ)-DP与分布式DP）是否天然满足对任意侧信息的抗性？
• RQ3 是否存在一种贝叶斯形式化隐私抗性模型，可捕捉先验信念对敏感数据推断的影响？
• RQ4 所提出的公式化如何与并推广文献中早期隐含的鲁棒隐私概念？
• RQ5 能否将对侧信息的抗性证明为宽松DP定义的推论，而非额外假设？

主要发现

• 本文首次基于贝叶斯推理，明确提出了差分隐私中对任意侧信息抗性的形式化表达。
• 若干宽松差分隐私定义（包括(ε,δ)-DP与分布式DP）被证明满足所提出的抗性条件。
• 抗性属性被证明是宽松DP定义的自然结果，而非额外要求。
• 该形式化推广并形式化了Dwork与McSherry（2006）的早期隐含思想，使其显式化且数学严谨化。
• 证明表明，即使存在任意先验知识，隐私机制仍能限制攻击者对敏感数据信念的精炼能力。