[论文解读] Deep Representation Learning for Social Network Analysis

Qiaoyu Tan, Ninghao Liu+1 more|arXiv (Cornell University)|Apr 18, 2019

Advanced Graph Neural Networks参考文献 72被引用 13

一句话总结

本综述全面回顾了用于社交网络分析的深度表征学习技术，重点聚焦于基于神经网络的节点和子图嵌入方法。该综述将方法分类为嵌入查找、自编码器和图卷积基础方法，并讨论了其应用、局限性以及未来研究方向，如动态、层次化和异构网络。

ABSTRACT

Social network analysis is an important problem in data mining. A fundamental step for analyzing social networks is to encode network data into low-dimensional representations, i.e., network embeddings, so that the network topology structure and other attribute information can be effectively preserved. Network representation leaning facilitates further applications such as classification, link prediction, anomaly detection and clustering. In addition, techniques based on deep neural networks have attracted great interests over the past a few years. In this survey, we conduct a comprehensive review of current literature in network representation learning utilizing neural network models. First, we introduce the basic models for learning node representations in homogeneous networks. Meanwhile, we will also introduce some extensions of the base models in tackling more complex scenarios, such as analyzing attributed networks, heterogeneous networks and dynamic networks. Then, we introduce the techniques for embedding subgraphs. After that, we present the applications of network representation learning. At the end, we discuss some promising research directions for future work.

研究动机与目标

• 系统性回顾基于深度神经网络的社交网络中节点和子图低维表征学习方法。
• 识别现有网络表征学习技术中的关键挑战，包括可扩展性、可解释性以及处理复杂网络结构的能力。
• 审视静态、同构网络模型在捕捉现实世界动态性和结构复杂性方面的局限性。
• 突出新兴研究方向，如动态、层次化和异构网络嵌入，以实现更真实和富有表现力的建模。

提出的方法

• 将网络表征学习方法分类为三种核心类型：基于嵌入查找、基于自编码器和基于图卷积网络（GCN）的模型。
• 回顾在同构网络中使用skip-gram和负采样等技术学习节点嵌入的方法，其灵感源自自然语言处理。
• 通过将节点特征整合到表征学习过程中，引入对属性网络的扩展方法。
• 讨论利用元路径（metapaths）建模不同类型节点和边之间语义关系的异构网络方法。
• 回顾适应随时间演变的节点集、边和属性的动态网络嵌入方法。
• 介绍基于节点级表征构建的子图嵌入技术，以捕捉网络子图中的结构模式。

实验结果

研究问题

• RQ1 如何有效应用深度神经网络来学习社交网络中节点的低维、有意义的表征？
• RQ2 现有静态网络嵌入模型在捕捉动态、层次化或异构网络结构方面存在哪些关键局限性？
• RQ3 如何将节点属性、边类型和时间变化整合到深度表征学习框架中？
• RQ4 在可扩展性、可解释性和泛化能力方面，网络表征学习的最有前景发展方向是什么？

主要发现

• 基于神经网络的深度表征学习方法在捕捉网络拓扑和属性信息方面显著优于传统手工特征工程方法。
• 图卷积网络（GCNs）和基于自编码器的模型通过保留局部和全局结构模式，在节点分类、链接预测和聚类任务中达到最先进性能。
• 现有动态网络方法通常假设节点集固定且时间建模能力有限，表明在处理现实世界演化网络方面仍存在差距。
• 异构网络嵌入仍处于发展初期，基于元路径的方法虽具潜力但缺乏在多样化真实系统中的全面评估。
• 当应用于包含数十亿个节点和边的大规模网络时，深度网络嵌入模型的可扩展性仍是主要挑战。
• 所学嵌入的可解释性仍然有限，因为潜在维度缺乏语义意义，阻碍了模型信任度的提升及特定应用场景下的优化。