[论文解读] Hypothesis Testing Interpretations and Renyi Differential Privacy

Borja Balle, Gilles Barthe+3 more|arXiv (Cornell University)|May 24, 2019

Privacy-Preserving Technologies in Data参考文献 25被引用 21

一句话总结

本文引入了k-cut和k-生成分歧的概念，以分析基于统计分歧的隐私定义的假设检验解释。证明了当且仅当底层分歧为2-生成时，隐私定义才支持假设检验解释，表明由于Rényi微分隐私是∞-生成的，其不直接支持此类解释，但Rényi分歧的2-剪切可实现有效解释，并导出从Rényi微分隐私到标准微分隐私的改进转换规则。

ABSTRACT

Differential privacy is a de facto standard in data privacy, with applications in the public and private sectors. A way to explain differential privacy, which is particularly appealing to statistician and social scientists is by means of its statistical hypothesis testing interpretation. Informally, one cannot effectively test whether a specific individual has contributed her data by observing the output of a private mechanism---any test cannot have both high significance and high power. In this paper, we identify some conditions under which a privacy definition given in terms of a statistical divergence satisfies a similar interpretation. These conditions are useful to analyze the distinguishability power of divergences and we use them to study the hypothesis testing interpretation of some relaxations of differential privacy based on Renyi divergence. This analysis also results in an improved conversion rule between these definitions and differential privacy.

研究动机与目标

• 形式化基于统计分歧的隐私定义支持假设检验解释的条件。
• 分析基于Rényi分歧的Rényi微分隐私的假设检验语义。
• 开发分析工具——k-cut与k-生成性，以表征分歧的可区分能力。
• 推导从Rényi微分隐私到标准(ε,δ)-微分隐私的改进转换规则。
• 通过假设检验解释的视角，比较Rényi微分隐私与高斯微分隐私的关系。

提出的方法

• 引入分歧的k-cut作为对大小为k的有限域上分布的限制，以建模具有k个结果的决策规则。
• 将k-生成性定义为分歧等于其自身k-cut的性质，捕捉完整表征该分歧所需的最少决策数。
• 证明隐私定义具有假设检验解释当且仅当其底层分歧为2-生成，此结果与先前工作中隐私区域的结论相联系。
• 将Rényi分歧的2-cut应用于恢复Rényi微分隐私的有效假设检验解释。
• 利用Rényi分歧的2-cut，推导出从Rényi到(ε,δ)-微分隐私的更紧致转换规则。
• 证明基于k-划分上拟凸函数上确界的分歧为k-生成，从而提供具有假设检验语义的分歧的通用构造方法。

实验结果

研究问题

• RQ1 在何种条件下，基于分歧的隐私定义支持假设检验解释？
• RQ2 为何尽管Rényi微分隐私广受欢迎，却无法直接支持假设检验解释？
• RQ3 Rényi分歧的2-cut能否恢复Rényi微分隐私的有效假设检验解释？
• RQ4 如何从Rényi微分隐私推导出改进的转换规则至标准(ε,δ)-微分隐私？
• RQ5 在假设检验语义方面，Rényi微分隐私与高斯微分隐私之间存在何种关系？

主要发现

• 基于分歧的隐私定义支持假设检验解释当且仅当该分歧为2-生成。
• Rényi分歧是∞-生成的，意味着其不支持直接的假设检验解释，但其2-cut支持。
• Rényi分歧的2-cut使有效假设检验解释成为可能，从而有效恢复了原始表述中丢失的统计语义。
• 通过使用2-cut，推导出从Rényi微分隐私到(ε,δ)-微分隐私的改进转换规则，其边界比先前方法更紧致。
• Hellinger距离是∞-生成的，但推导出从Hellinger到(ε,δ)-DP的最优转换律，其中δ(ε,ρ)以ε和ρ显式定义。
• 本文证明，基于k-划分上拟凸函数上确界的分歧为k-生成，从而为具有假设检验语义的分歧提供了通用构造方法。