[论文解读] A Unified Framework for Community Detection and Network Representation Learning

Cunchao Tu, Xiangkai Zeng+6 more|arXiv (Cornell University)|Nov 21, 2016

Complex Network Analysis Techniques参考文献 58被引用 4

一句话总结

本文提出社区增强型网络表征学习（CNRL），这是一种统一框架，通过利用社区结构作为全局模式，联合学习顶点和社区表征。受网络与文本之间类比的启发，CNRL 在随机游走序列上使用主题模型来检测重叠社区并增强顶点表征，在真实世界数据集上的链接预测、顶点分类和社区检测任务中显著提升了性能。

ABSTRACT

Network representation learning (NRL) aims to learn low-dimensional vectors for vertices in a network. Most existing NRL methods focus on learning representations from local context of vertices (such as their neighbors). Nevertheless, vertices in many complex networks also exhibit significant global patterns widely known as communities. It's intuitive that vertices in the same community tend to connect densely and share common attributes. These patterns are expected to improve NRL and benefit relevant evaluation tasks, such as link prediction and vertex classification. Inspired by the analogy between network representation learning and text modeling, we propose a unified NRL framework by introducing community information of vertices, named as Community-enhanced Network Representation Learning (CNRL). CNRL simultaneously detects community distribution of each vertex and learns embeddings of both vertices and communities. Moreover, the proposed community enhancement mechanism can be applied to various existing NRL models. In experiments, we evaluate our model on vertex classification, link prediction, and community detection using several real-world datasets. The results demonstrate that CNRL significantly and consistently outperforms other state-of-the-art methods while verifying our assumptions on the correlations between vertices and communities.

研究动机与目标

• 为解决现有网络表征学习（NRL）方法仅关注局部结构模式的局限性，通过引入全局社区结构来改进。
• 开发一个统一框架，同时检测社区并学习增强的顶点表征。
• 提升下游网络分析任务（如链接预测、顶点分类和社区检测）的性能。
• 验证社区结构与顶点语义相关联并能提升表征质量的假设。

提出的方法

• CNRL 将随机游走序列视为文档，顶点视为词语，社区作为主题，来建模网络表征学习。
• 它在随机游走序列上采用主题建模方法（如 LDA）来推断每个顶点的重叠社区成员身份。
• 该框架通过捕捉局部上下文和全局社区模式的概率模型，联合优化顶点表征和社区表征。
• 通过结合基于邻居的上下文和基于社区的语义信号，学习社区增强的顶点表征。
• 该方法与现有的基于随机游走的 NRL 模型（如 DeepWalk 和 node2vec）兼容，支持即插即用的集成。
• 社区分配基于后验概率 Pr(v|c)，其中 v 为顶点，c 为社区，使用阈值来识别相关社区。

实验结果

研究问题

• RQ1 社区结构能否作为有意义的全局模式，以改善网络表征学习？
• RQ2 如何有效将社区信息整合到现有 NRL 框架中，以提升表征质量？
• RQ3 文本建模（词语、文档、主题）与网络建模（顶点、随机游走、社区）之间的类比在实践中是否成立，从而提升 NRL？
• RQ4 所提出的框架能否以统一方式同时检测重叠社区并学习高质量的顶点表征？
• RQ5 社区增强的表征在多大程度上提升了下游任务（如链接预测和顶点分类）的性能？

主要发现

• CNRL 在多个真实世界数据集上的顶点分类、链接预测和社区检测任务中，显著优于最先进的 NRL 方法。
• 社区增强的表征能检索出更具语义相关性的邻居——例如，在 Cora 数据集中，CNRL 检索到与 'protein' 和 'probabilistic networks' 相关的邻居，而 DeepWalk 检索到的是无关的邻居。
• 社区分配具有语义意义：例如，在 Cora 中，社区对应于不同的子领域，如 'Hidden Markov Models'、'Case-Based Reasoning' 和 'Neural Networks'。
• 该方法成功在多个尺度上检测到重叠社区，每个社区的代表性词语清晰地反映了不同的研究主题。
• 该框架证明了社区结构与顶点语义之间存在强烈关联，验证了文本与网络建模之间核心类比的有效性。
• 定量结果表明，所有评估任务中均实现了持续改进，证实了将全局社区模式整合到局部表征学习中的有效性。