[论文解读] Beyond Node Embedding: A Direct Unsupervised Edge Representation Framework for Homogeneous Networks

Sambaran Bandyopadhyay, Anirban Biswas+2 more|arXiv (Cornell University)|Dec 11, 2019

Complex Network Analysis Techniques参考文献 32被引用 6

一句话总结

本文提出 line2vec，一种新颖的无监督框架，通过将网络转化为加权线图并利用集体同质性，直接学习同质网络中的边表示，而无需依赖节点嵌入。该方法在以边为中心的任务中表现优异，并揭示了学习到的边嵌入半径与节点中心性度量之间存在强烈的实证关联。

ABSTRACT

Network representation learning has traditionally been used to find lower dimensional vector representations of the nodes in a network. However, there are very important edge driven mining tasks of interest to the classical network analysis community, which have mostly been unexplored in the network embedding space. For applications such as link prediction in homogeneous networks, vector representation (i.e., embedding) of an edge is derived heuristically just by using simple aggregations of the embeddings of the end vertices of the edge. Clearly, this method of deriving edge embedding is suboptimal and there is a need for a dedicated unsupervised approach for embedding edges by leveraging edge properties of the network. Towards this end, we propose a novel concept of converting a network to its weighted line graph which is ideally suited to find the embedding of edges of the original network. We further derive a novel algorithm to embed the line graph, by introducing the concept of collective homophily. To the best of our knowledge, this is the first direct unsupervised approach for edge embedding in homogeneous information networks, without relying on the node embeddings. We validate the edge embeddings on three downstream edge mining tasks. Our proposed optimization framework for edge embedding also generates a set of node embeddings, which are not just the aggregation of edges. Further experimental analysis shows the connection of our framework to the concept of node centrality.

研究动机与目标

• 为解决同质网络中缺乏专用无监督边嵌入方法的问题，目前的方法依赖于平均节点嵌入等次优启发式方法。
• 开发一种框架，通过将网络转化为加权线图，直接学习边表示，以保留边级别的结构和语义特性。
• 引入集体同质性的概念，以在图线中建模边的邻域关系，从而提升嵌入质量。
• 在下游以边为中心的任务上验证该框架，并证明其能够生成稳健的、非聚合的节点嵌入。
• 揭示学习到的边嵌入半径与经典节点中心性度量之间的非平凡实证关联。

提出的方法

• 将原始网络转化为加权线图，其中每条边变为一个节点，边的权重反映结构相似性或共现模式。
• 引入集体同质性的概念，以在图线中建模边的邻域，捕捉邻近边的集体行为。
• 基于跳字模型与负采样构建优化目标，适配加权线图以学习边表示。
• 利用学习到的边嵌入推导节点嵌入，这些嵌入并非边向量的简单聚合，而是通过联合优化产生。
• 在图线中为每个节点的边嵌入定义一个半径 $ R_u $，反映该节点邻居的多样性和连通性。
• 应用 t-SNE 可视化与相关性分析，评估边和节点表示的质量及其与中心性的关系。

实验结果

研究问题

• RQ1 能否设计一种直接的无监督边嵌入框架，避免对节点嵌入进行启发式聚合？
• RQ2 所提出的 line2vec 框架在使用加权线图和集体同质性时，与基于节点聚合的基线方法相比，在边表示质量上表现如何？
• RQ3 学习到的边嵌入半径 $ R_u $ 与经典节点中心性度量（如介数中心性和接近中心性）之间存在何种关系？
• RQ4 该框架能否生成有意义的、非平凡的节点嵌入，而非简单地从边嵌入中导出？
• RQ5 该框架在以边为中心的下游任务（如链接预测和边聚类）上的性能提升程度如何？

主要发现

• 与基于节点聚合的基线方法相比，line2vec 框架在边可视化和聚类性能方面表现更优，t-SNE 图像清晰地分离出边社区。
• 在合成图中，学习到的半径 $ R_u $ 与介数中心性的皮尔逊相关系数达到 0.86，且在真实世界数据集中保持较高水平（0.68–0.81）。
• 在真实世界网络中，$ R_u $ 与接近中心性的相关系数范围为 0.59 至 0.79，表明其与节点中心性存在强烈实证关联。
• 该框架生成了稳健的节点嵌入，其并非边嵌入的简单平均或哈达玛积，表明其具有更丰富的表示学习过程。
• 该方法在三项下游边挖掘任务中优于基线聚合技术，证明了直接边表示的有效性。
• 优化框架揭示了边嵌入几何结构与节点中心性之间的非平凡结构关联，提示未来可基于 $ R_u $ 构建新的中心性度量。