[论文解读] Private Rank Aggregation under Local Differential Privacy

Ziqi Yan, Gang Li+1 more|arXiv (Cornell University)|Aug 13, 2019

Privacy-Preserving Technologies in Data参考文献 46被引用 4

一句话总结

本文提出 LDP-KwikSort，一种局部差分隐私的排序聚合协议，通过在将个体响应发送给不可信的协调者之前应用随机响应或拉普拉斯噪声来保护参与者的成对偏好数据。该方法在保持可接受效用的前提下实现了强隐私保护，优于基于拉普拉斯噪声的变体，并接近中心模型下的差分隐私性能。

ABSTRACT

As a method for answer aggregation in crowdsourced data management, rank aggregation aims to combine different agents' answers or preferences over the given alternatives into an aggregate ranking which agrees the most with the preferences. However, since the aggregation procedure relies on a data curator, the privacy within the agents' preference data could be compromised when the curator is untrusted. Existing works that guarantee differential privacy in rank aggregation all assume that the data curator is trusted. In this paper, we formulate and address the problem of locally differentially private rank aggregation, in which the agents have no trust in the data curator. By leveraging the approximate rank aggregation algorithm KwikSort, the Randomized Response mechanism, and the Laplace mechanism, we propose an effective and efficient protocol LDP-KwikSort. Theoretical and empirical results show that the solution LDP-KwikSort:RR can achieve the acceptable trade-off between the utility of aggregate ranking and the privacy protection of agents' pairwise preferences.

研究动机与目标

• 解决当数据协调者不可信时排序聚合缺乏隐私保护的问题，这是现有差分隐私方法中的一个关键空白。
• 提出并求解局部差分隐私排序聚合（LDP-RA）问题，其中参与者无法信任协调者处理原始偏好数据。
• 设计一种高效协议，仅保护成对比较而非完整排名，从而减少隐私泄露并提升实用性。
• 评估在局部差分隐私模型下，隐私预算、查询数量与实用性的权衡关系。
• 证明所提出的协议在强隐私保证下仍能保持接近非私有基线的聚合排序质量。

提出的方法

• 利用 KwikSort 算法，该算法基于成对偏好而非完整排名运行，以降低聚合过程的敏感度。
• 应用随机响应（RR）机制或拉普拉斯机制作为本地随机化器，在传输前对参与者的成对比较答案进行扰动。
• 利用协调者的后处理操作，从噪声报告中估计聚合的成对比较频率。
• 基于估计的成对频率，使用 KwikSort 构建最终的聚合排序。
• 理论分析推导出聚合成对配置估计误差的上界，指导最优查询数 $K$ 的选择。
• 优化查询数 $K$ 以在效用与隐私之间取得平衡，表明当有 $m$ 个备选项时，效用在 $K = \sqrt{m}$ 附近达到峰值。

实验结果

研究问题

• RQ1 如何设计一种在数据协调者不可信时确保局部差分隐私的排序聚合协议？
• RQ2 在局部模型中，最大化效用的同时保持隐私的最优成对查询数 $K$ 是多少？
• RQ3 在 LDP 排序聚合中，随机响应与拉普拉斯机制在效用和误差方面如何比较？
• RQ4 在不同隐私预算和数据集特性下，所提出的协议在多大程度上能保持聚合排序的准确性？
• RQ5 马洛斯模型的离散参数 $\theta$ 如何影响 LDP-KwikSort 协议的性能？

主要发现

• LDP-KwikSort:RR 在效用方面始终优于 LDP-KwikSort:Lap，表现出更低的平均 Kendall tau 距离和误差率。
• 当 $n=2500$，$m=15$，且 $\theta=0.5$ 时，LDP-KwikSort:RR 与 LDP-KwikSort:Lap 的误差率差距为 2.4%，在 $m=45$ 时扩大至 32.5%。
• 当 $n=5000$，$m=45$，且 $\theta$ 从 0.25 增加到 0.75 时，LDP-KwikSort:RR 与 LDP-KwikSort:Lap 在平均 Kendall tau 距离上的性能差距从 13.5% 增加到 46.5%。
• 当 $m \leq 15$ 时，$\epsilon = 1.0$ 可提供可接受的效用；对于更大的 $m$，建议使用 $\epsilon = 3.0$ 以维持性能。
• 时间成本随备选项数量增加而上升，且由于查询量更高，当 $m > 15$ 时，LDP-KwikSort:RR 的运行速度慢于 LDP-KwikSort:Lap。
• 该协议实现了 $\epsilon$-局部差分隐私，并在最优 $K$ 设置下保持了接近中心模型 DP-KwikSort 的实用性。