[论文解读] Secure Deep Graph Generation with Link Differential Privacy

Carl Yang, Haonan Wang+3 more|arXiv (Cornell University)|May 1, 2020

Privacy-Preserving Technologies in Data参考文献 34被引用 8

一句话总结

该论文提出 DPGGan，一种用于图的深度生成模型，通过在训练过程中向梯度更新中注入噪声，实现链接差分隐私保护，同时通过结构感知的判别器保持全局图结构。实验表明，DPGGan 在隐私保护方面表现强劲，且对数据效用的损失最小，在不同隐私预算下，其在结构相似性和链接隐私方面均优于非私有的基线模型。

ABSTRACT

Many data mining and analytical tasks rely on the abstraction of networks (graphs) to summarize relational structures among individuals (nodes). Since relational data are often sensitive, we aim to seek effective approaches to generate utility-preserved yet privacy-protected structured data. In this paper, we leverage the differential privacy (DP) framework to formulate and enforce rigorous privacy constraints on deep graph generation models, with a focus on edge-DP to guarantee individual link privacy. In particular, we enforce edge-DP by injecting proper noise to the gradients of a link reconstruction-based graph generation model, while ensuring data utility by improving structure learning with structure-oriented graph discrimination. Extensive experiments on two real-world network datasets show that our proposed DPGGAN model is able to generate graphs with effectively preserved global structure and rigorously protected individual link privacy.

研究动机与目标

• 为解决图生成模型在敏感关系数据方面缺乏严格隐私保障的问题。
• 在合成图中保持全局图结构，以确保下游分析的效用。
• 开发一种在不牺牲结构保真度的前提下强制执行边级差分隐私的深度生成模型。
• 证明在数据效用损失最小的情况下，差分隐私图生成是可行的。

提出的方法

• 通过向基于链接重建的图生成模型的梯度中注入校准噪声，实现边级差分隐私。
• 采用 GAN 框架，并使用面向结构的判别器以提升全局结构学习能力并保持保真度。
• 应用链接重建损失，以确保生成的图保留原始图的连通性和拓扑特征。
• 通过度分布的节点对齐实现原始图与生成图之间的公平比较。
• 在不同隐私预算（ε）下训练模型，以评估隐私与效用之间的权衡。
• 使用图统计量（如度分布、基序计数、GINI 系数、三角形计数）作为结构相似性的度量。

实验结果

研究问题

• RQ1 能否在保持全局结构特性的同时，使深度图生成模型在链接级别实现差分隐私？
• RQ2 隐私预算（ε）与结构效用之间的权衡在图生成中如何体现？
• RQ3 基于 GAN 的架构在差分隐私约束下能否有效学习全局图结构？
• RQ4 所提出的方法在多大程度上能防止对原始图中个体链接的推理？
• RQ5 DPGGan 在保留图统计量和下游任务性能方面，与非私有及其他私有基线相比表现如何？

主要发现

• 在多个指标（包括 LCC、TC 和 CPL）上，DPGGan 均一致优于非私有基线模型（NetGAN、GraphRNN），在保持全局图结构方面表现更优。
• 在相同隐私预算下，DPGGan 在结构相似性方面优于 DPGVae，表明基于 GAN 的设计具有优势。
• 与原始网络相比，DPGGan 在 DBLP 上使链接预测准确率降低 13.0%–16.9%，在 IMDB 上降低 27.3%–28.6%，表明其具备强大的链接隐私保护能力。
• 使用 GIN 进行图分类在生成图上的准确率仍具竞争力，表明其在下游任务中具有可用性。
• 随着隐私预算 ε 增大，结构相似性提升，证实了隐私与效用之间存在明确的权衡。
• 度分布和基序计数的余弦相似度保持较高水平，表明局部和全局拓扑模式得到有效保留。