[论文解读] A Random Matrix Approach to Differential Privacy and Structure Preserved Social Network Graph Publishing

Faraz Ahmed, Rong Jin+1 more|arXiv (Cornell University)|Jul 1, 2013

Privacy-Preserving Technologies in Data参考文献 42被引用 19

一句话总结

该论文提出了一种基于随机矩阵的方法，用于在保护谱结构的前提下实现社交网络图的差分隐私发布，通过在添加噪声前将邻接矩阵投影到低维空间来实现。该方法在高斯噪声方差σ=1时仍能保持高实用性——恢复80%的顶级影响力节点，并维持聚类质量（NMI ≥ 0.74），同时通过随机投影和噪声注入实现强差分隐私保证。

ABSTRACT

Online social networks are being increasingly used for analyzing various societal phenomena such as epidemiology, information dissemination, marketing and sentiment flow. Popular analysis techniques such as clustering and influential node analysis, require the computation of eigenvectors of the real graph's adjacency matrix. Recent de-anonymization attacks on Netflix and AOL datasets show that an open access to such graphs pose privacy threats. Among the various privacy preserving models, Differential privacy provides the strongest privacy guarantees. In this paper we propose a privacy preserving mechanism for publishing social network graph data, which satisfies differential privacy guarantees by utilizing a combination of theory of random matrix and that of differential privacy. The key idea is to project each row of an adjacency matrix to a low dimensional space using the random projection approach and then perturb the projected matrix with random noise. We show that as compared to existing approaches for differential private approximation of eigenvectors, our approach is computationally efficient, preserves the utility and satisfies differential privacy. We evaluate our approach on social network graphs of Facebook, Live Journal and Pokec. The results show that even for high values of noise variance sigma=1 the clustering quality given by normalized mutual information gain is as low as 0.74. For influential node discovery, the propose approach is able to correctly recover 80 of the most influential nodes. We also compare our results with an approach presented in [43], which directly perturbs the eigenvector of the original data by a Laplacian noise. The results show that this approach requires a large random perturbation in order to preserve the differential privacy, which leads to a poor estimation of eigenvectors for large social networks.

研究动机与目标

• 为解决在发布社交网络图时隐私与实用性之间的冲突，特别是针对基于特征向量的分析。
• 开发一种差分隐私机制，能够在不存储或发布大型稠密矩阵的情况下，保留邻接矩阵的谱结构。
• 与直接扰动完整邻接矩阵或特征向量的方法相比，降低计算和存储成本。
• 在保持下游任务（如聚类和影响力节点检测）高精度的同时，确保强隐私保障。
• 在真实世界图（Facebook、LiveJournal、Pokec）上，在现实噪声水平下评估该方法。

提出的方法

• 该方法使用随机投影矩阵P将原始邻接矩阵A投影到低维空间，降低维度和计算成本。
• 通过利用随机矩阵的浓度性质，对投影后的矩阵添加高斯噪声，以满足(ε,δ)-差分隐私。
• 发布经过扰动的低秩矩阵，而非完整邻接矩阵，从而最小化存储和通信开销。
• 使用扰动后矩阵的特征向量进行下游分析，保留原始图的前k个谱分量。
• 该方法利用随机矩阵理论，确保在注入噪声后，原始矩阵的特征谱能被良好近似。
• 该方法避免直接扰动n×n的完整邻接矩阵或其特征向量，从而减少误差传播并提高实用性。

实验结果

研究问题

• RQ1 在差分隐私约束下，基于随机矩阵投影的方法能否保留社交网络图的谱结构？
• RQ2 与直接扰动特征向量的方法（如LNPP）相比，该方法在影响力节点检测方面的实用性如何？
• RQ3 在高噪声方差下，该方法在多大程度上保持聚类质量（以标准化互信息NMI衡量）？
• RQ4 与现有直接扰动完整矩阵或特征向量的方法相比，该方法是否实现了更好的隐私-实用性权衡？
• RQ5 该方法在具有不同规模和拓扑结构的真实社交网络（Facebook、LiveJournal、Pokec）中是否具有鲁棒性？

主要发现

• 即使在高斯噪声方差σ=1时，该方法在聚类任务中仍能实现至少0.74的标准化互信息（NMI），表明社区结构得到良好保留。
• 在影响力节点检测方面，该方法在所有评估数据集中成功恢复了80%的顶级排名影响力节点，显著优于基线方法。
• 与基线LNPP方法相比，该方法在PCC评分估计中的均方误差（MSE）降低了最多100倍，表明在特征向量近似方面具有更高的精度。
• 即使在σ=1时，该方法仍保持高实用性，Facebook（k=2）的n×MSE值低至2.6×10⁻²⁶，而k较大时低于0.02，表明失真极小。
• 在所有情况下，该方法均优于LNPP基线，后者在相同条件下无法保留超过1%的顶级影响力节点。
• 该方法具有高效可扩展性，通过在低维投影上操作，避免了完整矩阵扰动带来的O(n²)存储和计算成本。