[论文解读] Aggregating Votes with Local Differential Privacy: Usefulness, Soundness vs. Indistinguishability

Shaowei Wang, Jiachun Du+6 more|arXiv (Cornell University)|Aug 14, 2019

Privacy-Preserving Technologies in Data参考文献 73被引用 7

一句话总结

本文提出了两种新颖的机制——加权采样和加法机制，以在局部差分隐私下提升投票聚合的有用性和正确性，其性能优于朴素的拉普拉斯机制，估计误差最高可降低50%，并有效缓解数据放大和视角伪装等策略性攻击。这些方法在不同隐私预算下，实现了更紧致的误差界和更低的操纵风险，尤其在Borda计票中表现优异。

ABSTRACT

Voting plays a central role in bringing crowd wisdom to collective decision making, meanwhile data privacy has been a common ethical/legal issue in eliciting preferences from individuals. This work studies the problem of aggregating individual's voting data under the local differential privacy setting, where usefulness and soundness of the aggregated scores are of major concern. One naive approach to the problem is adding Laplace random noises, however, it makes aggregated scores extremely fragile to new types of strategic behaviors tailored to the local privacy setting: data amplification attack and view disguise attack. The data amplification attack means an attacker's manipulation power is amplified by the privacy-preserving procedure when contributing a fraud vote. The view disguise attack happens when an attacker could disguise malicious data as valid private views to manipulate the voting result. In this work, after theoretically quantifying the estimation error bound and the manipulating risk bound of the Laplace mechanism, we propose two mechanisms improving the usefulness and soundness simultaneously: the weighted sampling mechanism and the additive mechanism. The former one interprets the score vector as probabilistic data. Compared to the Laplace mechanism for Borda voting rule with $d$ candidates, it reduces the mean squared error bound by half and lowers the maximum magnitude risk bound from $+\infty$ to $O(\frac{d^3}{nε})$. The latter one randomly outputs a subset of candidates according to their total scores. Its mean squared error bound is optimized from $O(\frac{d^5}{nε^2})$ to $O(\frac{d^4}{nε^2})$, and its maximum magnitude risk bound is reduced to $O(\frac{d^2}{nε})$. Experimental results validate that our proposed approaches averagely reduce estimation error by $50\%$ and are more robust to adversarial attacks.

研究动机与目标

• 为解决基于拉普拉斯噪声的投票聚合在局部差分隐私下的脆弱性，特别是针对策略性攻击的问题。
• 在存在对抗行为的情况下，提升聚合投票结果的有用性和正确性。
• 理论上量化并减少局部差分隐私机制中的估计误差和操纵风险。
• 提出在保持高精度的同时，能够抵抗数据放大和视角伪装攻击的机制。
• 探索局部隐私系统中可用性、正确性和不可区分性之间的权衡。

提出的方法

• 加权采样机制将得分向量解释为概率分布，通过加权采样生成保留排序结构的私有视图。
• 加法机制基于总得分随机输出候选者的一个子集，降低对噪声的敏感性，提升鲁棒性。
• 两种机制均旨在最小化局部差分隐私约束下的均方误差和最大幅度风险。
• 理论分析推导出改进的误差界：均方误差为 O(d⁴/nε²)，最大幅度风险为 O(d²/nε)，相较于拉普拉斯机制的 O(d⁵/nε²) 和 O(d³/nε) 显著优化。
• 在不同候选者数量、投票者数量和对抗性设置下对机制进行评估，以验证性能提升。
• 理论界通过差分隐私保证和统计估计理论推导，聚焦于Borda计票规则。

实验结果

研究问题

• RQ1 在局部差分隐私下的投票聚合中，拉普拉斯机制在估计误差和对抗性操纵脆弱性方面表现如何？
• RQ2 我们能否设计出在局部差分隐私投票聚合中同时提升有用性和正确性的机制？
• RQ3 数据放大和视角伪装攻击对私有投票聚合的准确性和鲁棒性有何影响？
• RQ4 与拉普拉斯机制相比，所提出的机制如何降低估计误差和操纵风险？
• RQ5 在Borda计票下，所提机制的误差和风险理论界是什么？

主要发现

• 在Borda计票下，加权采样机制的均方误差界相比拉普拉斯机制减少了一半。
• 加权采样机制的最大幅度风险界从 +∞ 降低至 O(d³/nε)，而拉普拉斯机制为 O(d³/nε)，实现显著改进。
• 加法机制将均方误差界从 O(d⁵/nε²) 降低至 O(d⁴/nε²)，实现 d 倍的改进。
• 加法机制将最大幅度风险界降低至 O(d²/nε)，显著提升了对对抗性操纵的鲁棒性。
• 实验表明，估计误差平均降低50%，且对数据放大和视角伪装攻击均表现出更优的抵抗能力。
• 在100,000名投票者的情况下，所有机制在低隐私预算（ε < 1.0）下仍能实现接近100%的胜者准确率，展现出良好的可扩展性和鲁棒性。