[论文解读] A Hyperbolic-to-Hyperbolic Graph Convolutional Network

Jindou Dai, Yuwei Wu+2 more|arXiv (Cornell University)|Apr 14, 2021

Advanced Graph Neural Networks参考文献 47被引用 5

一句话总结

本文提出 H2H-GCN，这是首个在双曲流形上直接执行图卷积而无需依赖切空间近似的双曲图卷积网络。它通过引入保持流形结构的图卷积操作，结合双曲特征变换（带正交约束）与基于爱因斯坦中点的邻域聚合方法，在链接预测、节点分类和图分类任务中实现了最先进性能，从而保留了全局双曲几何结构。

ABSTRACT

Hyperbolic graph convolutional networks (GCNs) demonstrate powerful representation ability to model graphs with hierarchical structure. Existing hyperbolic GCNs resort to tangent spaces to realize graph convolution on hyperbolic manifolds, which is inferior because tangent space is only a local approximation of a manifold. In this paper, we propose a hyperbolic-to-hyperbolic graph convolutional network (H2H-GCN) that directly works on hyperbolic manifolds. Specifically, we developed a manifold-preserving graph convolution that consists of a hyperbolic feature transformation and a hyperbolic neighborhood aggregation. The hyperbolic feature transformation works as linear transformation on hyperbolic manifolds. It ensures the transformed node representations still lie on the hyperbolic manifold by imposing the orthogonal constraint on the transformation sub-matrix. The hyperbolic neighborhood aggregation updates each node representation via the Einstein midpoint. The H2H-GCN avoids the distortion caused by tangent space approximations and keeps the global hyperbolic structure. Extensive experiments show that the H2H-GCN achieves substantial improvements on the link prediction, node classification, and graph classification tasks.

研究动机与目标

• 为解决现有双曲 GCN 中因依赖切空间近似而引起的失真问题，这些方法仅在局部近似双曲流形。
• 开发一种直接在双曲流形上运行的图卷积网络，以保持层次图的全局几何结构。
• 通过消除从流形到切空间的映射，改进具有层次结构图的表示学习。
• 证明直接双曲操作在基准图学习任务上的性能优于基于切空间的方法。

提出的方法

• 提出一种完全在双曲流形上运行的双曲到双曲图卷积网络（H2H-GCN），避免使用切空间映射。
• 引入一种使用块对角矩阵（包含一个标量 1 和一个正交矩阵）的双曲特征变换，以在变换后保持流形成员关系。
• 采用爱因斯坦中点作为邻域信息的加权聚合方法，确保更新后的节点表示仍位于双曲流形上。
• 设计一种保持流形结构的图卷积操作，结合双曲特征变换与双曲邻域聚合，两者均尊重双曲空间的内在几何结构。
• 使用黎曼优化训练模型，同时确保所有操作均保留在双曲流形内。
• 采用统一的实验协议与标准化的数据划分，以确保与最先进欧氏及双曲 GCN 的公平比较。

(a) Existing hyperbolic GCNs.

实验结果

研究问题

• RQ1 能否设计一种图卷积网络，使其直接在双曲流形上运行，而无需依赖切空间近似？
• RQ2 消除切空间映射是否能提升层次图的表示学习性能？
• RQ3 与基于切空间的双曲 GCN 相比，直接双曲图卷积在链接预测、节点分类和图分类任务上的性能如何？
• RQ4 在不同嵌入维度下，保留全局双曲几何结构在多大程度上提升了模型性能？

主要发现

• 在 D&D 数据集上，H2H-GCN 达到 78.2% ± 3.3 的准确率，比 DGCNN 提高 1.6%，在该基准上创下新的最先进水平。
• 在 Proteins 数据集上，H2H-GCN 达到 74.4% ± 3.0 的准确率，比 DiffPool 提高 0.7%，并持续优于现有方法。
• 在 Enzymes 数据集上，H2H-GCN 达到 61.3% ± 4.9 的准确率，比 GIN 提高 1.7%，在具有挑战性的层次图分类任务中表现更优。
• 在所有测试的嵌入维度（3 到 128）下，H2H-GCN 均持续优于 HGCN 和 HGNN，在维度 3 时比 HGCN 提高 2.3%，在维度 256 时提高 1.9%。
• H2H-GCN 与 HGNN 之间的性能差距在所有维度下均持续存在，表明增加维度无法缓解切空间近似带来的失真。
• H2H-GCN 表明，直接基于流形的操作能够保持全局双曲结构，从而实现比基于切空间的替代方法更有效的表示学习。

(b) The proposed H2H-GCN.