[论文解读] Permute-and-Flip: A new mechanism for differentially private selection

Ryan McKenna, Daniel Sheldon|arXiv (Cornell University)|Jan 1, 2020

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种新颖的差分隐私选择机制——Permute-and-Flip，通过更精细的隐私分析，相较于指数机制实现了更高的期望得分，提升幅度最高可达两倍。该方法效率高，时间复杂度为线性，同时在保证强隐私保护的前提下，以差分隐私方式选择质量更高的项目。

ABSTRACT

We consider the problem of differentially private selection. Given a finite set of candidate items and a quality score for each item, our goal is to design a differentially private mechanism that returns an item with a score that is as high as possible. The most commonly used mechanism for this task is the exponential mechanism. In this work, we propose a new mechanism for this task based on a careful analysis of the privacy constraints. The expected score of our mechanism is always at least as large as the exponential mechanism, and can offer improvements up to a factor of two. Our mechanism is simple to implement and runs in linear time.

研究动机与目标

• 为解决现有差分隐私选择机制（尤其是指数机制）在期望得分表现方面的局限性。
• 设计一种新机制，在保持差分隐私的前提下实现更高的期望质量得分。
• 开发一种实现简单且高效的机制，时间复杂度为线性。
• 通过更紧密的隐私约束分析，对指数机制进行改进。

提出的方法

• 该机制采用基于排列的采样策略来选择项目，通过精确控制选择概率来确保差分隐私。
• 其应用了更精细的隐私分析，使得期望得分高于指数机制。
• 该方法根据质量得分和隐私参数分配选择概率，在差分隐私约束下优化实用性。
• 通过随机排列后单次遍历处理项目，实现线性时间复杂度。
• 该机制确保任一项目被选中的概率与其质量得分成正比，同时考虑隐私因素进行调整。
• 最终选择通过在每一步翻转一个偏置硬币完成，其依据为隐私预算和得分值。

实验结果

研究问题

• RQ1 是否存在一种差分隐私选择机制，其期望得分高于指数机制？
• RQ2 通过更精细的隐私分析，期望得分的最大提升幅度是多少？
• RQ3 这种提升是否可以在不牺牲效率或简洁性的情况下实现？
• RQ4 该机制的性能如何随隐私预算和得分分布的变化而变化？

主要发现

• Permute-and-Flip 机制保证的期望得分始终不低于指数机制的期望得分。
• 在某些条件下，期望得分的提升幅度最高可达两倍。
• 该机制时间复杂度为线性，适用于大规模应用场景。
• 该方法实现简单，无需复杂的采样或优化过程。