[论文解读] Geometric Laplacian Eigenmap Embedding.

Leo Torres, Kevin Chan+1 more|arXiv (Cornell University)|May 23, 2019

Advanced Graph Neural Networks参考文献 27被引用 2

一句话总结

本文提出了一种新型图嵌入方法——几何拉普拉斯特征映射嵌入（Geometric Laplacian Eigenmap Embedding, GLEE），该方法用源自单纯形几何的几何原理替代了传统拉普拉斯特征映射中的距离最小化假设。通过利用拉普拉斯矩阵所揭示的图的内在几何结构，GLEE在图重构和链接预测任务上的表现优于基于谱的方法。

ABSTRACT

Graph embedding seeks to build a low-dimensional representation of a graph G. This low-dimensional representation is then used for various downstream tasks. One popular approach is Laplacian Eigenmaps, which constructs a graph embedding based on the spectral properties of the Laplacian matrix of G. The intuition behind it, and many other embedding techniques, is that the embedding of a graph must respect node similarity: similar nodes must have embeddings that are close to one another. Here, we dispose of this distance-minimization assumption. Instead, we use the Laplacian matrix to find an embedding with geometric properties instead of spectral ones, by leveraging the so-called simplex geometry of G. We introduce a new approach, Geometric Laplacian Eigenmap Embedding (or GLEE for short), and demonstrate that it outperforms various other techniques (including Laplacian Eigenmaps) in the tasks of graph reconstruction and link prediction.

研究动机与目标

• 解决现有图嵌入方法依赖于嵌入空间中节点距离最小化的局限性。
• 探究几何特性（特别是源自单纯形几何的特性）是否能产生优于谱特性的图表示。
• 开发一种新的嵌入框架，以几何一致性替代距离最小化假设。
• 在图重构和链接预测等下游任务中展示性能提升。

提出的方法

• GLEE通过分析图的拉普拉斯矩阵所揭示的几何结构来构建图嵌入，而非依赖谱分解进行降维。
• 它将图建模为一组单纯形（广义三角形）的集合，并利用其几何关系来指导嵌入位置的确定。
• 该方法强制嵌入后的节点保持原始图中单纯形结构所体现的几何关系。
• 它将嵌入优化问题表述为几何对齐问题，以最小化基于单纯形的几何构型中的失真。
• 该方法通过聚焦于保留节点间更高阶的几何一致性，避免了显式的距离最小化。
• 最终的嵌入通过一个约束优化过程计算得出，以保持从拉普拉斯矩阵中推导出的相对几何位置。

实验结果

研究问题

• RQ1 源自单纯形结构的几何原理是否能超越传统谱方法，提升图嵌入性能？
• RQ2 用几何一致性替代距离最小化假设，是否能提升图重构的性能？
• RQ3 在链接预测任务中，GLEE与拉普拉斯特征映射及其他最先进方法相比表现如何？
• RQ4 通过拉普拉斯矩阵捕捉的图的几何结构，在多大程度上提升了嵌入质量？
• RQ5 几何嵌入是否比谱嵌入在下游任务中具有更好的泛化能力？

主要发现

• GLEE在图重构精度方面优于拉普拉斯特征映射及其他基线方法，表现出更高的结构保真度。
• 该方法在链接预测任务中取得了更高的AUC分数，表明其对未见边的泛化能力更强。
• 通过聚焦于几何一致性而非距离最小化，GLEE捕捉到了图中更高阶的结构模式。
• 使用单纯形几何可实现更鲁棒且更有意义的节点表示，尤其在复杂或稀疏图中表现更优。
• 实证结果证实，基于拉普拉斯矩阵的几何嵌入相比谱基替代方案，能产生更稳定且信息量更丰富的表示。
• 所提出的框架在多个真实世界数据集上均表现出一致的性能提升，验证了其泛化能力。