[论文解读] Covariate Regularized Community Detection in Sparse Graphs

Bowei Yan, Purnamrita Sarkar|arXiv (Cornell University)|Jul 10, 2016

Bayesian Methods and Mixture Models参考文献 53被引用 8

一句话总结

本文提出了一种凸优化框架，通过联合利用稀疏网络结构和有限维子高斯协变量来提升社区检测的准确性。通过同时利用这两种信息源对社区检测问题进行正则化，该方法在单一信息源单独使用时表现不足的情况下，可严格证明提升聚类性能，尤其在稀疏网络的弱可分性条件下表现更优。

ABSTRACT

In this article, we investigate community detection in networks in the presence of node covariates. In many instances, covariates and networks individually only give a partial view of the cluster structure. One needs to jointly infer the full cluster structure by considering both. In statistics, an emerging body of work has been focused on combining information from both the edges in the network and the node covariates to infer community memberships. However, so far the theoretical guarantees have been established in the dense regime, where the network can lead to perfect clustering under a broad parameter regime, and hence the role of covariates is often not clear. In this article, we examine sparse networks in conjunction with finite dimensional sub-Gaussian mixtures as covariates under moderate separation conditions. In this setting each individual source can only cluster a nonvanishing fraction of nodes correctly. We propose a simple optimization framework which improves clustering accuracy when the two sources carry partial information about the cluster memberships, and hence perform poorly on their own. Our optimization problem can be solved by scalable convex optimization algorithms. With a variety of simulated and real data examples, we show that the proposed method outperforms other existing methodology. Supplementary materials for this article are available online.

研究动机与目标

• 解决现有社区检测方法仅依赖网络结构或协变量所带来的局限性，这些方法在稀疏网络中且信号分离微弱时往往表现不佳。
• 构建一个统一框架，联合利用稀疏网络数据和有限维协变量，以在单一信息源仅提供部分信息时提升聚类准确性。
• 在稀疏区域（平均度数恒定）下，针对两种信息源均满足中等可分性条件的情形，建立聚类准确性的理论保证。
• 在模拟数据和真实世界数据集（包括政治网络和生态食物网）上，证明该方法优于现有方法。
• 将理论分析扩展至稀疏随机块模型以及弱信号条件下子高斯混合的核聚类。

提出的方法

• 构建一个融合图拉普拉斯矩阵（来自网络结构）和由节点协变量导出的核矩阵的惩罚凸优化问题。
• 使用半定规划（SDP）求解该优化问题，实现可扩展且可严格保证一致性的社区检测。
• 引入正则化项以平衡网络和协变量提供的信息，确保当某一信息源存在噪声或信号微弱时仍具鲁棒性。
• 采用核方法将有限维子高斯协变量映射到再生核希尔伯特空间，从而实现聚类的非线性分离。
• 对有向网络（如威德尔海食物网）应用阈值化对称邻接矩阵处理。
• 使用调优参数控制网络信息与协变量信息之间的权衡，以优化聚类准确性。

实验结果

研究问题

• RQ1 结合稀疏网络数据和有限维协变量是否能实现优于单独使用任一信息源的社区检测效果？
• RQ2 在何种条件下，联合使用网络和协变量信息可提升稀疏网络中的聚类准确性？
• RQ3 当网络和协变量各自单独无法提供一致聚类时，所提方法是否仍能实现理论一致性？
• RQ4 该方法在真实世界数据集上表现如何，尤其是在两种信息源信号微弱或正交时？
• RQ5 该方法是否可推广至多源信息或协变量中存在非线性聚类边界的场景？

主要发现

• 在墨西哥政治精英数据集上，该方法的标准化互信息（NMI）达到0.46，优于ACASC（0.37）和JCDC（0.25）。
• 在威德尔海食物网数据集中，该方法的NMI达到0.51，显著优于SDP-net（0.36）、SDP-cov（0.22）、ACASC（0.32）和JCDC（0.42）。
• 该方法能成功分类模糊节点——例如，1940年一位网络联系均等但协变量为平民的政客——通过结合两种信号。
• 在模拟实验中，当两种信息源携带正交或部分信息时，即使单一信息源表现不佳，该方法仍能提升聚类准确性。
• 理论分析表明，该方法在弱于单一信息源所需可分性条件的更弱条件下，改善了聚类误差的上界。
• 该方法对两种信息源的弱信号强度均具有鲁棒性，即使在极限情况下任一信息源均无法提供一致聚类，仍能实现一致的性能提升。