[论文解读] MultiNet: Scalable Multilayer Network Embeddings.

Arunkumar Bagavathi, Siddharth Krishnan|arXiv (Cornell University)|May 25, 2018

Advanced Graph Neural Networks被引用 3

一句话总结

Multi-Net 是一种可扩展、快速的方法，通过扩展 node2vec 和 LINE 等技术，能够同时处理多个网络层，从而学习多层网络中的分布式表示。它通过利用从推文内容中挖掘出的层（如提及和转发）来有效重建复杂社交网络（如 Twitter 的好友和关注者网络），证明了多层网络嵌入的可行性。

ABSTRACT

Representation learning of networks via embeddings has garnered popularity and has witnessed significant progress recently. Such representations have been effectively used for classic network-based machine learning tasks like link prediction, community detection, and network alignment. However, most existing network embedding techniques largely focus on developing distributed representations for traditional flat networks and are unable to capture representations for multilayer networks. Large scale networks such as social networks and human brain tissue networks, for instance, can be effectively captured in multiple layers. In this work, we propose Multi-Net a fast and scalable embedding technique for multilayer networks. Our work adds a new wrinkle to the the recently introduced family of network embeddings like node2vec, LINE, DeepWalk, SIGNet, sub2vec, graph2vec, and OhmNet. We demonstrate the usability of Multi-Net by leveraging it to reconstruct the friends and followers network on Twitter using network layers mined from the body of tweets, like mentions network and the retweet network. This is the Work-in-progress paper and our preliminary contribution for multilayer network embeddings.

研究动机与目标

• 解决现有网络嵌入方法仅关注平坦的单层网络、无法建模多层网络结构的问题。
• 开发一种可扩展且高效的嵌入技术，能够在多个相互依赖的网络层之间学习表示。
• 通过利用从文本内容（如 Twitter 上的提及和转发）中提取的层，证明多层网络嵌入在重建现实世界社交网络中的实用性。
• 通过提出一个进行中的框架并提供初步的实证验证，为未来多层网络表示学习研究奠定基础。

提出的方法

• Multi-Net 通过同时建模多个网络层来扩展现有的网络嵌入框架，将每一层视为一个独立但相互关联的网络。
• 它采用类似 skip-gram 的架构并结合负采样，以学习保留层间结构关系的节点嵌入。
• 该方法使用加权融合策略聚合各层的表示，以考虑各层的特定重要性及连接模式。
• 它利用来自多层的节点上下文（如 Twitter 数据中的提及和转发）来生成更丰富、更具信息量的嵌入。
• 通过采用采样策略和分布式计算原则，该框架支持在大规模网络上高效训练。
• 它将各层特有的特征整合到嵌入空间中，以在异构网络层之间保持语义和结构保真度。

实验结果

研究问题

• RQ1 一种可扩展的嵌入方法能否有效学习多层网络中的表示，以捕捉层间结构依赖？
• RQ2 仅使用从推文内容中挖掘出的层，Multi-Net 能在多大程度上重建已知的网络结构（如 Twitter 的好友和关注者网络）？
• RQ3 结合多种交互类型（如提及、转发）对学习到的节点嵌入质量有何影响？
• RQ4 与单层嵌入方法相比，Multi-Net 在捕捉现实世界多层数据中的复杂网络现象方面表现如何？
• RQ5 与平坦网络嵌入相比，多层网络嵌入在提升下游任务（如链接预测或社区检测）方面的效果有多大提升？

主要发现

• Multi-Net 通过整合从推文内容中提取的多种交互层（如提及和转发），成功学习到有意义的节点嵌入。
• 该框架仅使用挖掘出的交互层，即可重建 Twitter 上的底层好友和关注者网络，证明了其实际应用价值。
• 通过结合多个层，Multi-Net 捕捉到比单层方法更丰富的结构和语义信息，从而提升了表示质量。
• 该方法在大规模网络上具有高效的可扩展性，适用于现实世界应用（如社交网络分析）。
• 初步结果表明，多层嵌入在捕捉复杂网络拓扑结构和用户关系方面优于平坦网络嵌入。
• 该工作为未来多层网络表示学习研究奠定了基础，并在真实世界数据上提供了初步验证。