[论文解读] Locally Differentially Private Analysis of Graph Statistics

Jacob Imola, Takao Murakami+1 more|arXiv (Cornell University)|Oct 17, 2020

Privacy-Preserving Technologies in Data参考文献 54被引用 9

一句话总结

本文提出了用于估计图中子图计数（特别是三角形和k星）的局部差分隐私（LDP）算法，实现了无需可信协调者的私有分析。提出了一种两轮协议，与非交互式方法相比显著降低了估计误差，在k星计数中实现了阶最优误差，并在IMDB和Orkut等真实数据集上展示了较低的相对误差（例如在ε=1时三角形的相对误差为0.30）。

ABSTRACT

Differentially private analysis of graphs is widely used for releasing statistics from sensitive graphs while still preserving user privacy. Most existing algorithms however are in a centralized privacy model, where a trusted data curator holds the entire graph. As this model raises a number of privacy and security issues -- such as, the trustworthiness of the curator and the possibility of data breaches, it is desirable to consider algorithms in a more decentralized local model where no server holds the entire graph. In this work, we consider a local model, and present algorithms for counting subgraphs -- a fundamental task for analyzing the connection patterns in a graph -- with LDP (Local Differential Privacy). For triangle counts, we present algorithms that use one and two rounds of interaction, and show that an additional round can significantly improve the utility. For $k$-star counts, we present an algorithm that achieves an order optimal estimation error in the non-interactive local model. We provide new lower-bounds on the estimation error for general graph statistics including triangle counts and $k$-star counts. Finally, we perform extensive experiments on two real datasets, and show that it is indeed possible to accurately estimate subgraph counts in the local differential privacy model.

研究动机与目标

• 在不依赖可信协调者的本地差分隐私（LDP）模型下，实现图统计的私有分析。
• 解决当边为敏感信息且用户必须本地扰动其数据时，估计子图计数（如三角形和k星）的挑战。
• 开发高效且实用的LDP算法，在隐私预算有限的情况下仍保持高效用。
• 为一般图统计（包括三角形和k星）建立估计误差的理论下界。
• 在不同隐私预算下，通过真实图数据集实证验证所提算法的效用。

提出的方法

• 采用本地模型，每个用户独立地使用随机响应或拉普拉斯噪声对其边信息进行扰动，然后将结果发送给服务器。
• 提出一种用于三角形计数的两轮交互协议，通过允许用户根据聚合反馈调整响应来提升效用。
• 在非交互式LDP模型中应用拉普拉斯机制，以实现k星计数的阶最优估计误差。
• 引入使用LDP的极大度（d_max）的私有估计，用于校准子图计数算法中的噪声。
• 采用隐私预算分配策略，将ε在估计d_max和估计子图计数之间分配，以平衡准确性和隐私。
• 使用噪声极大度（d̂_max）作为真实d_max的代理，表明与使用真实值相比效用损失极小。

实验结果

研究问题

• RQ1 在不依赖可信协调者的本地差分隐私模型下，能否准确估计子图计数（如三角形和k星）？
• RQ2 交互（一轮与两轮）如何影响本地私有子图计数中的估计误差？
• RQ3 在LDP下，一般图统计的估计误差是否存在根本限制（下界）？
• RQ4 在非交互式LDP模型中，能否为k星计数实现阶最优误差？
• RQ5 对极大度的私有估计如何影响子图计数估计的准确性？

主要发现

• 与非交互式版本相比，三角形计数的两轮协议显著降低了估计误差，证明了在LDP中交互的优势。
• 对于k星计数，所提出的基于拉普拉斯的算法在非交互式LDP模型中实现了阶最优估计误差。
• 在IMDB数据集上，ε=1时三角形计数的相对误差低至0.30，表明在中等隐私预算下仍具有高效率。
• 在IMDB数据集上，ε=1时2星计数的相对误差低至0.0028，表明在密集图中具有极佳的准确性。
• 使用私有估计的d_max（d̂_max）时，相对误差接近使用真实d_max的情况，验证了其实际可行性。
• 在ε=2时，聚类系数的估计相对误差为0.30，表明在LDP下实现有意义图分析的可行性。