[论文解读] How Private Is Your Voting? A Framework for Comparing the Privacy of Voting Mechanisms

Ao Liu, Yun Lu+2 more|arXiv (Cornell University)|May 15, 2018

Privacy-Preserving Technologies in Data参考文献 9被引用 4

一句话总结

本文提出一个框架，使用精确的分布差分隐私（DDP）边界来评估投票机制的内在隐私性，表明大多数常见投票规则在不加噪声的情况下即可实现强隐私保护。研究证明，在实际应用中，通常无需采用需要结果扰动的差分隐私技术，因为自然投票规则在标准投票分布假设下已能提供最优隐私保护。

ABSTRACT

Voting privacy has received a lot of attention across several research communities. Traditionally, cryptographic literature has focused on how to privately implement a voting mechanism. Yet, a number of recent works attempt to minimize the amount of information one can infer from the output (rather than the implementation) of the voting mechanism. These works apply differential privacy (DP) techniques which noise the outcome to achieve privacy. This approach intrinsically compromises accuracy, rendering such a voting mechanism unsuitable for most realistic scenarios. In this work we investigate the inherent privacy that different voting rules achieve. To this end we utilize the well-accepted notion of Distributional Differential Privacy (DDP). We prove that under standard assumptions in voting literature about the distribution of votes, most natural mechanisms achieve a satisfactory level of DDP, indicating that noising--and its negative side-effects for voting--is unnecessary in most cases. We then put forth a systematic study of noiseless privacy of commonly studied of voting rules, and compare these rules with respect to their privacy. Note that both DP and DDP induce (possibly loose) upper bounds on information leakage, which makes them insufficient for such a task. To circumvent this, we extend the definitions to require the bound to be exact (i.e. optimal) in a well defined manner. Although motivated by voting, our definitions and techniques can be generically applied to address the optimality (with respect to privacy) of general mechanisms for privacy-preserving data release.

研究动机与目标

• 为填补对投票机制内在隐私性理解的空白，超越密码学实现层面。
• 探究无噪声投票规则是否能在不损害准确性的前提下实现强隐私保护。
• 开发一个基于精确DDP边界的框架，用于评估投票机制的隐私最优性。
• 在现实投票分布假设下，比较常见投票规则的隐私性能。
• 扩展DDP定义，要求最优（紧致）隐私边界，以实现对机制的精确比较。

提出的方法

• 作者将分布差分隐私（DDP）应用于标准投票分布假设下，建模投票结果中的隐私泄露。
• 推导出各种投票规则的信息泄露精确最优上界，取代传统DP或DDP中的松散边界。
• 通过测量不同投票者配置下投票分布之间的差异，评估隐私性。
• 利用这些精确边界，比较常见投票规则（如多数制、波达计分制、即时复选制）的隐私性能。
• 形式化提出一种新的“最优”隐私边界概念，确保推导出的界限为紧致边界，而非保守估计。
• 该方法具有普适性，可推广至其他领域，适用于隐私保护数据发布。

实验结果

研究问题

• RQ1 常见投票规则是否能在不向结果添加噪声的情况下实现强隐私？
• RQ2 在标准投票分布假设下，不同投票规则的隐私性如何比较？
• RQ3 传统差分隐私技术在投票中是否必要，还是其内在隐私已足够？
• RQ4 我们能否为投票机制定义并计算最优隐私边界，而非依赖松散上界？
• RQ5 投票规则的结构在多大程度上决定了其隐私特性？

主要发现

• 在标准投票分布假设下，大多数自然投票规则均能达到令人满意的分布差分隐私（DDP）水平，表明其具有强内在隐私性。
• 实践中通常无需添加结果噪声——这在差分隐私方法中常见——因为自然机制本身已能提供强隐私保护。
• 精确且最优的DDP边界表明，许多投票规则即使在无扰动情况下也仅泄露极少量信息。
• 研究表明，不同投票规则的隐私性能存在显著差异，某些规则（如波达计分制）在相同条件下提供的隐私保护强于其他规则（如多数制）。
• 所提出的框架通过以紧致、最优边界替代松散边界，实现了对机制间隐私性的精确、定量比较。
• 该框架具有普适性，可应用于评估任何用于数据发布的机制的隐私最优性。