[论文解读] A Tensor Spectral Approach to Learning Mixed Membership Community Models

Animashree Anandkumar, Rong Ge+2 more|arXiv (Cornell University)|Feb 12, 2013

Tensor decomposition and applications参考文献 30被引用 109

一句话总结

本文提出了一种张量谱方法，用于在混合成员社区模型中保证社区检测，其中节点可以以分数形式属于多个社区。通过利用低阶三叶草计数张量和通过SVD及幂迭代进行的谱分解，该方法在有限样本下实现了对社区成员身份和模型参数的可证明恢复，其样本复杂度达到随机块模型的最优尺度。

ABSTRACT

Detecting hidden communities from observed interactions is a classical problem. Theoretical analysis of community detection has so far been mostly limited to models with non-overlapping communities such as the stochastic block model. In this paper, we provide guaranteed community detection for a family of probabilistic network models with overlapping communities, termed as the mixed membership Dirichlet model, first introduced in Airoldi et al. (2008). This model allows for nodes to have fractional memberships in multiple communities and assumes that the community memberships are drawn from a Dirichlet distribution. Moreover, it contains the stochastic block model as a special case. We propose a unified approach to learning communities in these models via a tensor spectral decomposition approach. Our estimator uses low-order moment tensor of the observed network, consisting of 3-star counts. Our learning method is based on simple linear algebraic operations such as singular value decomposition and tensor power iterations. We provide guaranteed recovery of community memberships and model parameters, and present a careful finite sample analysis of our learning method. Additionally, our results match the best known scaling requirements for the special case of the (homogeneous) stochastic block model.

研究动机与目标

• 解决现有社区检测方法假设社区非重叠的局限性。
• 为在具有混合成员关系的重叠网络模型中学习社区提供理论保证的方法。
• 将非重叠模型（如随机块模型）的理论保证扩展到更一般的混合成员狄利克雷模型。
• 基于低阶矩张量开发一种计算高效的算法。

提出的方法

• 该方法使用三叶草计数张量作为网络高阶结构的充分统计量。
• 通过幂迭代对张量进行谱分解，从观测张量中提取潜在的社区结构。
• 该方法利用张量展开矩阵的奇异值分解（SVD）来估计社区成员向量。
• 通过将节点成员关系建模为狄利克雷分布的抽样，实现对重叠社区的概率推理。
• 该算法仅使用低阶矩，避免了复杂的优化或采样过程。
• 该方法设计为可扩展，并适用于有限样本分析。

实验结果

研究问题

• RQ1 在具有混合成员关系的重叠网络模型中，是否可以在理论保证下可靠地执行社区检测？
• RQ2 如何利用低阶矩张量在概率网络模型中恢复社区结构？
• RQ3 与现有方法相比，基于张量的方法在混合成员模型中的有限样本性能如何？
• RQ4 所提出的方法在随机块模型的特例中是否达到最优尺度？
• RQ5 对张量进行的谱技术能否一致估计社区成员身份和模型参数？

主要发现

• 所提出的张量谱方法在混合成员狄利克雷模型下可保证恢复社区成员身份和模型参数。
• 该方法提供了随网络规模和社区结构呈有利缩放的有限样本误差界。
• 该方法在同质随机块模型中的样本复杂度达到最优已知尺度，证实了其在该特例中的最优性。
• 使用三叶草计数张量可实现最小化高阶矩计算的一致估计。
• 该算法具有鲁棒性和计算高效性，仅依赖SVD和幂迭代。
• 理论框架支持重叠和非重叠社区结构，统一了先前的方法。