[论文解读] Flexible Attributed Network Embedding

Enya Shen, Zhidong Cao+2 more|arXiv (Cornell University)|Nov 27, 2018

Advanced Graph Neural Networks参考文献 30被引用 5

一句话总结

FANE 是一种新颖且可扩展的属性网络嵌入框架，通过统一的网络表示和定制化的随机游走策略，灵活整合结构信息与属性信息。该方法实现了最先进性能，在 Cora 数据集上分类准确率提升超过 5%，在 WebKB 上提升超过 10%，同时支持在结构保持与属性保持学习之间灵活权衡。

ABSTRACT

Network embedding aims to find a way to encode network by learning an embedding vector for each node in the network. The network often has property information which is highly informative with respect to the node's position and role in the network. Most network embedding methods fail to utilize this information during network representation learning. In this paper, we propose a novel framework, FANE, to integrate structure and property information in the network embedding process. In FANE, we design a network to unify heterogeneity of the two information sources, and define a new random walking strategy to leverage property information and make the two information compensate. FANE is conceptually simple and empirically powerful. It improves over the state-of-the-art methods on Cora dataset classification task by over 5%, more than 10% on WebKB dataset classification task. Experiments also show that the results improve more than the state-of-the-art methods as increasing training size. Moreover, qualitative visualization show that our framework is helpful in network property information exploration. In all, we present a new way for efficiently learning state-of-the-art task-independent representations in complex attributed networks. The source code and datasets of this paper can be obtained from https://github.com/GraphWorld/FANE.

研究动机与目标

• 解决现有网络嵌入方法在复杂网络中难以有效整合结构与属性信息的局限性。
• 开发一种可扩展且灵活的框架，实现结构保持与属性保持网络表示学习之间的平滑过渡。
• 通过联合建模结构与属性，探索属性关系并增强特征学习。
• 提供一种视觉可解释的方法，用于分析和优化现实世界属性网络中的网络表示。

提出的方法

• FANE 构建一个统一网络，将属性视为节点，实现结构与属性的联合表示学习。
• 提出一种新颖的随机游走策略，动态引入属性信息以引导遍历过程，平衡结构接近性与属性接近性。
• 框架采用类似 skip-gram 的目标函数，从游走序列中学习节点嵌入，同时保留结构角色与属性语义。
• 通过惩罚参数 C 控制结构与属性保持之间的权衡，实现灵活的学习模式。
• 该方法支持扩展到属性空间，允许对属性关系进行可视化与分析。
• FANE 设计为可扩展，其时间复杂度在节点数和属性数上均为线性，确保在大规模网络上的高效性。

实验结果

研究问题

• RQ1 如何在表示学习过程中有效且灵活地整合属性网络中的结构与属性信息？
• RQ2 将属性视为节点的统一网络表示是否能相比现有方法提升嵌入质量？
• RQ3 FANE 在多大程度上能平衡结构保持与属性保持学习？这种平衡对性能有何影响？
• RQ4 FANE 是否能实现对现实世界网络中属性关系的有意义可视化与探索？
• RQ5 FANE 在网络规模与属性数量增加时的可扩展性如何？

主要发现

• 与最先进方法相比，FANE 在 Cora 数据集上将分类准确率提升超过 5%，在 WebKB 数据集上提升超过 10%。
• 随着训练规模增大，性能增益更加显著，表明其具备更好的泛化能力与可扩展性。
• 框架在惩罚参数 C 的不同取值下表现稳定，但嵌入维度 d 对准确率的影响更强。
• 计算时间与节点数量及每个节点的属性数量均呈线性增长，证实了其强大的可扩展性。
• 定性可视化揭示了属性的有意义聚类（例如 BBC 相关的标签与用户），证明该框架能够发现非平凡的属性级模式。
• FANE 是首个提供显式且可调节的属性保持与结构保持学习之间控制的方法，实现了对表示学习过程的主动干预。