[论文解读] Consistent Spectral Clustering of Network Block Models under Local Differential Privacy

Jonathan Hehir, Aleksandra Slavković+1 more|arXiv (Cornell University)|May 26, 2021

Opinion Dynamics and Social Influence参考文献 31被引用 7

一句话总结

本文提出了一种在局部差分隐私下针对随机块模型（SBM）和度校正块模型（DCBM）的差分私有谱聚类方法，采用边翻转机制。理论分析表明，在密集网络中，私有谱聚类达到与非私有方法相同的收敛速率；在稀疏网络中实现弱一致性，前提是节点度数超过√n。

ABSTRACT

The stochastic block model (SBM) and degree-corrected block model (DCBM) are network models often selected as the fundamental setting in which to analyze the theoretical properties of community detection methods. We consider the problem of spectral clustering of SBM and DCBM networks under a local form of edge differential privacy. Using a randomized response privacy mechanism called the edge-flip mechanism, we develop theoretical guarantees for differentially private community detection, demonstrating conditions under which this strong privacy guarantee can be upheld while achieving spectral clustering convergence rates that match the known rates without privacy. We prove the strongest theoretical results are achievable for dense networks (those with node degree linear in the number of nodes), while weak consistency is achievable under mild sparsity (node degree greater than $\sqrt{n}$). We empirically demonstrate our results on a number of network examples.

研究动机与目标

• 为在保护边级隐私的同时解决网络数据中的社区检测挑战。
• 开发一种在局部差分隐私下具有理论基础的谱聚类方法，以保持估计精度。
• 分析在SBM和DCBM中隐私（ε-DP）与统计效率之间的权衡。
• 在隐私约束下建立误分类率的有限样本和渐近界。
• 证明边翻转机制可在特定网络稀疏性条件下实现一致的谱聚类。

提出的方法

• 应用边翻转机制——一种随机响应技术——对邻接矩阵中的边进行扰动，以确保ε-局部差分隐私。
• 使用边翻转机制的混合分布表示，以在隐私保护下保持谱嵌入的期望结构。
• 提出一种改进的谱聚类算法，基于已扰动的邻接矩阵来估计社区成员身份。
• 利用矩阵扰动理论推导出已扰动SBM和DCBM网络的谱嵌入浓度界。
• 引入正交矩阵变换以对齐估计的谱嵌入与真实谱嵌入，从而支持误分类率分析。
• 通过估计与真实嵌入之间ℓ2范数偏差的分析，建立有限样本误分类率界，随后进行渐近收敛速率分析。

实验结果

研究问题

• RQ1 在何种条件下，SBM和DCBM网络的谱聚类在局部差分隐私下仍能保持一致性？
• RQ2 与非私有情况相比，边翻转机制如何影响谱聚类的收敛速率？
• RQ3 为在局部DP下实现弱一致性，网络需满足何种稀疏性条件（如节点度数）？
• RQ4 在局部DP保证下，能否实现与非私有谱聚类相同的理论收敛速率？
• RQ5 隐私参数ε对估计误差和社区检测精度有何影响？

主要发现

• 在节点度数与n成线性关系的密集网络中，所提出的差分私有谱聚类达到与非私有谱聚类相同的收敛速率。
• 在稀疏网络中，当节点度数超过√n时可实现弱一致性，但收敛速率因隐私引入的噪声而降低。
• 有限样本误分类率被界为O(k√gε(B)/(a³λB√n))，其中gε(B)捕捉隐私引起的误差，λB为块概率矩阵的谱隙。
• 边翻转机制保留了期望谱嵌入结构，通过后处理和正交变换对齐，实现一致估计。
• 理论界表明，隐私成本在密集网络中最小，随稀疏性增加而增长，但在节点度数满足温和条件时仍可控制。
• 在模拟和真实网络上的实证验证证实了理论发现，表明在不同隐私预算下均表现出稳健性能。