[论文解读] Graph-based Clustering under Differential Privacy

Rafaël Pinot, Anne Morvan+3 more|arXiv (Cornell University)|Mar 10, 2018

Privacy-Preserving Technologies in Data参考文献 17被引用 13

一句话总结

该论文提出了PTClust，这是首个能够通过利用私有发布的近似最小生成树（MST）来检测任意形状聚类的差分隐私图聚类算法。它在私有MST上应用最优切割以恢复非凸聚类，实现了理论基础坚实的隐私-效用权衡，并在权重差分隐私下具备可证明的差分隐私保证。

ABSTRACT

In this paper, we present the first differentially private clustering method for arbitrary-shaped node clusters in a graph. This algorithm takes as input only an approximate Minimum Spanning Tree (MST) $\mathcal{T}$ released under weight differential privacy constraints from the graph. Then, the underlying nonconvex clustering partition is successfully recovered from cutting optimal cuts on $\mathcal{T}$. As opposed to existing methods, our algorithm is theoretically well-motivated. Experiments support our theoretical findings.

研究动机与目标

• 开发一种用于加权图的差分隐私聚类方法，能够检测非凸的、任意形状的聚类。
• 为基于MST的聚类算法提供理论依据，这些算法此前仅是启发式方法。
• 为DBMSTClu算法在权重差分隐私下赋予正式的隐私和效用保障。
• 在差分隐私下建立图聚类的隐私-效用权衡，尤其针对非凸结构。

提出的方法

• 该方法以通过指数机制（PAMST）或拉普拉斯机制发布的、具有权重差分隐私的近似MST作为输入。
• 在私有MST上应用最优切割，以恢复底层的非凸聚类划分。
• 该算法基于图权重设计效用函数，以评估聚类质量。
• 通过私有MST的后处理确保隐私保障，利用MST在权重扰动下的稳定性。
• 该方法基于对隐私-效用权衡的理论分析，明确给出了近似误差的界。
• 用经过扰动的私有MST替代DBMSTClu中的真实MST，以保持差分隐私。

实验结果

研究问题

• RQ1 在差分隐私下，基于MST的聚类能否为非凸聚类提供理论依据？
• RQ2 如何利用差分隐私MST恢复准确的非凸聚类结构？
• RQ3 在权重差分隐私下，图聚类中的隐私（ε）与聚类准确率之间的权衡是什么？
• RQ4 私有MST能否保留足够的结构信息，以实现对任意形状的有效聚类？

主要发现

• PTClust即使在中等隐私预算（ε=1.0，0.7）下，也能成功恢复非凸聚类（如同心圆、月牙形），仅出现轻微扰动（如孤立的单点）。
• 在ε=0.5时，聚类质量显著下降，出现误分类节点和碎片化聚类，证实了理论上的隐私-效用权衡。
• 通过PAMST发布的私有MST实现了O(|V|²/|E| log|V|)的权重近似误差，在某些图结构中优于基于拉普拉斯的方法。
• 当私有MST接近真实MST时，该算法能保持较强的聚类准确性，表明对小扰动具有鲁棒性。
• 实验结果证实，DBMSTClu在真实MST上能恢复正确划分，而PTClust在隐私约束下近似实现了该结果。