[论文解读] Constant Curvature Graph Convolutional Networks

Gregor Bachmann, Gary Bécigneul+1 more|arXiv (Cornell University)|Nov 12, 2019

Topological and Geometric Data Analysis参考文献 56被引用 35

一句话总结

这篇论文将图卷积网络推广到在常数曲率空间（正、负、零）中运行，使用统一的 kappa-stereographic gyroframework，实现跨曲率可微插值，并提升非欧几里得图数据的节点表示。

ABSTRACT

Interest has been rising lately towards methods representing data in non-Euclidean spaces, e.g. hyperbolic or spherical, that provide specific inductive biases useful for certain real-world data properties, e.g. scale-free, hierarchical or cyclical. However, the popular graph neural networks are currently limited in modeling data only via Euclidean geometry and associated vector space operations. Here, we bridge this gap by proposing mathematically grounded generalizations of graph convolutional networks (GCN) to (products of) constant curvature spaces. We do this by i) introducing a unified formalism that can interpolate smoothly between all geometries of constant curvature, ii) leveraging gyro-barycentric coordinates that generalize the classic Euclidean concept of the center of mass. Our class of models smoothly recover their Euclidean counterparts when the curvature goes to zero from either side. Empirically, we outperform Euclidean GCNs in the tasks of node classification and distortion minimization for symbolic data exhibiting non-Euclidean behavior, according to their discrete curvature.

研究动机与目标

• 阐明为何非欧几里得几何（双曲、球面）在某些图结构数据的建模中优于欧几里得空间。
• 引入一个统一的 gyrovector 空间框架，在常数曲率几何之间插值。
• 开发在 kappa-stereographic 模型中运行的 κ-GCN，并在曲率趋近于零时恢复欧几里得 GCN。
• 使曲率和几何的可微学习能够与图神经网络训练共同进行。

提出的方法

• 定义 kappa-stereographic 模型，在单一框架中统一正曲率和负曲率。
• 扩展 gyrovector 空间运算（κ-加法、κ-缩放），并给出距离、exp/log 映射和测地线的封闭形式表达。
• 引入 κ-右矩阵乘法，作为对嵌入的曲率感知线性变换。
• 提出 κ-左矩阵乘法，作为基于加权 gyromidpoint 的消息传递聚合。
• 采用 κ-logit 层和对曲率敏感的 softmax 用于分类任务。
• 证明关键性质：右随机矩阵下的左乘的内在性，以及可微的曲率插值。

实验结果

研究问题

• RQ1 常数曲率空间能否为 GCNs 提供欧几里得、双曲、球面几何之间的可微分插值？
• RQ2 相对于欧几里得 GCNs 和已有的超球面方法，κ-GCNs 是否在非欧几里得图上的节点分类和失真最小化方面有所提升？
• RQ3 学习曲率是否能改善具有非欧几里得结构的图的表示？
• RQ4 常数曲率分量的积空间（例如 H^8 × S^8）是否比单一几何嵌入带来进一步的收益？

主要发现

• κ-GCN 在节点分类数据集和合成及真实图上的失真最小化方面优于欧几里得 GCN。
• 当极限 κ → 0 时，该模型可恢复欧几里得 GCN，确保几何之间的连续插值。
• 乘积几何嵌入（例如超曲面或球面分量）可以进一步降低失真并在某些数据集上提升性能。
• 研究的数据集（Citeseer、Cora、Pubmed、Airport）显示 κ-GCN 相较于欧几里得和先前的超球面 GNNs，达到具有竞争力或更高的准确度。
• κ-stereographic 框架提供距离、exp/log 映射和测地线的封闭形式运算，使跨曲率的可微学习高效实现。