[论文解读] The application of differential privacy for rank aggregation: Privacy and accuracy

Shang Shang, Tiance Wang+2 more|arXiv (Cornell University)|Jul 7, 2014

Privacy-Preserving Technologies in Data被引用 3

一句话总结

本文将差分隐私应用于排名聚合，以在发布排名直方图时保护用户隐私。通过添加校准噪声，推导出在均匀用户分布假设下，各类位置排名规则的误差率上界，并通过仿真验证了理论误差分析。

ABSTRACT

The potential risk of privacy leakage prevents users from sharing their honest opinions on social platforms. This paper addresses the problem of privacy preservation if the query returns the histogram of rankings. The framework of differential privacy is applied to rank aggregation. The error probability of the aggregated ranking is analyzed as a result of noise added in order to achieve differential privacy. Upper bounds on the error rates for any positional ranking rule are derived under the assumption that profiles are uniformly distributed. Simulation results are provided to validate the probabilistic analysis.

研究动机与目标

• 解决社交平台中用户分享排名时存在的隐私泄露风险。
• 在发布用户偏好聚合直方图时保护个体排名。
• 在保持可接受准确性的前提下，确保排名聚合中的差分隐私。
• 分析排名聚合中隐私与准确性的权衡。
• 推导在均匀用户分布假设下，任意位置排名规则的误差率理论上限。

提出的方法

• 将差分隐私框架应用于排名聚合过程，以保护个体用户排名。
• 在排名直方图中引入经过仔细校准的噪声，以满足差分隐私保证。
• 在添加噪声后，使用位置排名规则（例如Borda计数）作为聚合机制。
• 在用户分布均匀的假设下，推导任意位置排名规则的误差概率上界。
• 使用合成排名数据的仿真实验验证理论误差边界。
• 分析隐私预算（ε）对聚合排名准确度的影响。

实验结果

研究问题

• RQ1 如何有效应用差分隐私以保护排名聚合中的用户排名？
• RQ2 在差分隐私下，聚合排名的误差概率理论上存在何种上界？
• RQ3 用户分布的均匀性假设如何影响排名聚合中的误差边界？
• RQ4 添加的噪声在多大程度上降低了最终聚合排名的准确性？
• RQ5 理论误差边界与仿真实验的实证结果在多大程度上一致？

主要发现

• 本文推导出在差分隐私和均匀用户分布假设下，任意位置排名规则的误差率上界。
• 随着隐私要求更加严格（ε值更小），聚合排名的误差概率上升，但始终保持有界。
• 仿真结果证实了理论误差边界，预测误差率与实际观测误差率保持一致。
• 该框架在保持隐私的同时维持了可接受的准确性，尤其在中等隐私预算下表现良好。
• 该分析为量化排名聚合系统中隐私-准确性权衡提供了系统性方法。
• 在用户分布均匀的假设下，结果具有鲁棒性，这简化了理论分析。