[论文解读] Impossibility of Differentially Private Universally Optimal Mechanisms

Hai Brenner, Kobbi Nissim|arXiv (Cornell University)|Aug 2, 2010

Privacy-Preserving Technologies in Data参考文献 7被引用 5

一句话总结

本文证明，在贝叶斯和风险规避的效用模型下，对于计数查询的推广形式——如求和查询、直方图查询以及多个计数查询——不存在普遍最优的差分隐私机制。关键结果是，通过结构约束分析表明，普遍最优性仅在单个计数查询中可能实现，原因在于涉及多种查询类型时，隐私保护机制存在结构性限制。

ABSTRACT

The notion of a universally utility-maximizing privacy mechanism was recently introduced by Ghosh, Roughgarden, and Sundararajan [STOC 2009]. These are mechanisms that guarantee optimal utility to a large class of information consumers, simultaneously, while preserving Differential Privacy [Dwork, McSherry, Nissim, and Smith, TCC 2006]. Ghosh et al. have demonstrated, quite surprisingly, a case where such a universally-optimal differentially-private mechanisms exists, when the information consumers are Bayesian. This result was recently extended by Gupte and Sundararajan [PODS 2010] to risk-averse consumers. Both positive results deal with mechanisms (approximately) computing a single count query (i.e., the number of individuals satisfying a specific property in a given population), and the starting point of our work is a trial at extending these results to similar settings, such as sum queries with non-binary individual values, histograms, and two (or more) count queries. We show, however, that universally-optimal mechanisms do not exist for all these queries, both for Bayesian and risk-averse consumers. For the Bayesian case, we go further, and give a characterization of those functions that admit universally-optimal mechanisms, showing that a universally-optimal mechanism exists, essentially, only for a (single) count query. At the heart of our proof is a representation of a query function $f$ by its privacy constraint graph $G_f$ whose edges correspond to values resulting by applying $f$ to neighboring databases.

研究动机与目标

• 研究是否可以为超越单个计数查询的广义查询类型构造普遍最优的差分隐私机制。
• 将先前关于计数查询的普遍最优机制的积极结果，扩展到更复杂的查询类型，如求和查询、直方图查询以及计数查询的组合。
• 刻画在贝叶斯效用模型下，普遍最优机制存在的条件。
• 通过差分隐私和效用最大化的结构约束，证明此类机制对除最基本查询类型外的所有查询类型均不可能实现。

提出的方法

• 作者为查询函数 $ f $ 定义了一个隐私约束图 $ G_f $，其中边表示相邻数据库的输出值。
• 通过分析具有特定先验和损失函数的理性信息消费者，推导出普遍最优机制的结构约束。
• 利用多个消费者，其在相邻查询输出的三元组上具有均匀先验，推导出机制转移矩阵上的重叠列划分约束。
• 证明所得机制必须具有特定的对称结构，涉及系数 $ c_i $ 和缩放因子 $ \alpha $，这些由差分隐私和行随机性约束推导而来。
• 机制的可行性由系数的非负性决定，特别是 $ c_0 = (1 - (k-1)\alpha)/(\alpha + 1) $，该式要求 $ \alpha \leq 1/(k-1) $ 才能使 $ k $ 个邻居成立。
• 通过考虑日益复杂的消费者先验，推导出必须同时满足所有诱导约束的通用机制结构，当 $ k > 3 $ 时导致矛盾。

实验结果

研究问题

• RQ1 能否为超越单个计数查询的求和查询构造普遍最优的差分隐私机制？
• RQ2 在贝叶斯效用模型下，直方图查询的普遍最优性是否可能？
• RQ3 能否为两个或更多计数查询的组合设计普遍最优机制？
• RQ4 查询函数 $ f $ 的何种结构条件允许存在普遍最优的差分隐私机制？
• RQ5 对于哪些查询类型，隐私约束图 $ G_f $ 允许存在可行的通用机制？

主要发现

• 对于具有非二值输出的求和查询，即使查询是线性的，也不存在普遍最优的差分隐私机制。
• 该不可能性结果扩展至直方图查询和多个计数查询的组合，在贝叶斯和风险规避的消费者模型下均不成立。
• 仅当隐私约束图 $ G_f $ 是环或最大度数 $ \Delta(G_f) \leq 2 $ 时，才可能存在普遍最优机制，且即使如此，也需满足严格条件。
• 当 $ G_f $ 中的查询有 $ k > 3 $ 个邻居时，所需机制的系数变得不可行，除非 $ \alpha \leq 1/(k-1) $，而该条件无法同时被所有消费者满足。
• 通用机制的唯一可行解要求 $ c_0 \geq 0 $，但当 $ k > 3 $ 时该条件不成立，从而证明此类情况下的不可能性。
• 本文建立了完整的刻画：由于在多个消费者先验下机制列结构的结构性不兼容，普遍最优机制仅存在于单个计数查询中。