[论文解读] MEGAN: A Generative Adversarial Network for Multi-View Network Embedding

Yiwei Sun, Suhang Wang+3 more|arXiv (Cornell University)|Aug 20, 2019

Advanced Graph Neural Networks参考文献 17被引用 4

一句话总结

MEGAN 提出了一种用于多视角网络嵌入的新型生成对抗网络（GAN）框架，通过联合建模单个视角内的连接性与跨视角相关性，学习低维、非线性、信息保留的节点表示。实验表明，MEGAN 在 Flickr 和 Last.fm 等真实世界多视角网络上的节点分类、链接预测和可视化任务中均优于最先进方法。

ABSTRACT

Data from many real-world applications can be naturally represented by multi-view networks where the different views encode different types of relationships (e.g., friendship, shared interests in music, etc.) between real-world individuals or entities. There is an urgent need for methods to obtain low-dimensional, information preserving and typically nonlinear embeddings of such multi-view networks. However, most of the work on multi-view learning focuses on data that lack a network structure, and most of the work on network embeddings has focused primarily on single-view networks. Against this background, we consider the multi-view network representation learning problem, i.e., the problem of constructing low-dimensional information preserving embeddings of multi-view networks. Specifically, we investigate a novel Generative Adversarial Network (GAN) framework for Multi-View Network Embedding, namely MEGAN, aimed at preserving the information from the individual network views, while accounting for connectivity across (and hence complementarity of and correlations between) different views. The results of our experiments on two real-world multi-view data sets show that the embeddings obtained using MEGAN outperform the state-of-the-art methods on node classification, link prediction and visualization tasks.

研究动机与目标

• 通过使用非线性、低维嵌入整合多个网络视角的信息，填补多视角网络表示学习中的空白。
• 解决单视角 GAN 中缺失的挑战，即同时建模多视角网络中的视图内连接性和视图间相关性。
• 开发一种基于 GAN 的框架，通过生成对抗样本提升所学嵌入的鲁棒性和表示质量。
• 实现在无需下游任务标签数据的情况下，对多视角网络嵌入进行无监督训练。
• 在多个评估任务中证明所提方法相较于现有最先进方法的优越性。

提出的方法

• 设计一个生成器网络，将共享潜在空间映射为对抗性节点嵌入，学习重建多视角网络结构。
• 构建一个判别器，利用视图内和视图间连接模式，区分真实多视角网络样本与生成器生成的对抗样本。
• 使用最小最大目标，以对抗方式训练生成器和判别器，其中生成器旨在通过生成逼真的多视角网络结构来欺骗判别器。
• 通过联合优化生成器以在每个独立视图中保持连接性并捕捉跨视角相关性，实现多视角信息的整合。
• 使用对比损失对齐各视角间的潜在表示，增强模型学习互补特征的能力。
• 使用 t-SNE 对所学嵌入进行可视化，以评估聚类质量和结构一致性。

实验结果

研究问题

• RQ1 基于 GAN 的框架能否通过同时建模视图内连接性和跨视角相关性，有效学习多视角网络的低维非线性嵌入？
• RQ2 与单视角或多视角基线方法相比，整合多个视角的互补信息在多大程度上提升了网络表示的质量？
• RQ3 MEGAN 在真实世界多视角网络上的节点分类、链接预测和可视化任务中，相较于现有最先进方法的性能提升程度如何？
• RQ4 MEGAN 的性能对嵌入维度的选择有多敏感？何种最优维度能获得最佳结果？
• RQ5 MEGAN 中的对抗训练机制在存在噪声或不完整网络结构的情况下，是否能增强模型的鲁棒性和泛化能力？

主要发现

• MEGAN 在节点分类任务中达到最先进性能，且在 Flickr 和 Last.fm 数据集上均以 128 维嵌入维度取得最优结果。
• 在链接预测任务中，MEGAN 超过其单视角 GAN 对应方法（GraphGAN）及其他多视角方法，证明了跨视角信息整合的有效性。
• 在使用 t-SNE 的可视化任务中，MEGAN 生成的嵌入能产生更紧密、更清晰分离的用户兴趣类别聚类，优于其他方法。
• MEGAN 的性能在不同视图间保持稳健，即使各视图的链接密度和可靠性存在差异，仍能持续优于基线方法。
• 当多个视图提供互补信息时，模型表现出显著的性能提升，尤其在单一视图无法提供准确预测所需全部信息的情况下。
• 消融研究证实，联合建模视图内与视图间结构比单独建模各视图能获得更优的表示学习效果。