[论文解读] A Survey of Geometric Graph Neural Networks: Data Structures, Models and Applications

Jiaqi Han, Jiacheng Cen+14 more|arXiv (Cornell University)|Mar 1, 2024

Neural Networks and Applications被引用 12

一句话总结

本文提供了几何图神经网络的统一综述，详细介绍数据结构、不变/协变模型设计，以及在物理、化学、生物学中的应用，另有数据集与未来方向。

ABSTRACT

Geometric graphs are a special kind of graph with geometric features, which are vital to model many scientific problems. Unlike generic graphs, geometric graphs often exhibit physical symmetries of translations, rotations, and reflections, making them ineffectively processed by current Graph Neural Networks (GNNs). To address this issue, researchers proposed a variety of geometric GNNs equipped with invariant/equivariant properties to better characterize the geometry and topology of geometric graphs. Given the current progress in this field, it is imperative to conduct a comprehensive survey of data structures, models, and applications related to geometric GNNs. In this paper, based on the necessary but concise mathematical preliminaries, we formalize geometric graph as the data structure, on top of which we provide a unified view of existing models from the geometric message passing perspective. Additionally, we summarize the applications as well as the related datasets to facilitate later research for methodology development and experimental evaluation. We also discuss the challenges and future potential directions of geometric GNNs at the end of this survey.

研究动机与目标

• 强调在几何图中将对称性（平移、旋转、反射）引入GNN的必要性。
• 从几何信息传递的角度，提供对现有GNN模型的统一、几何感知视角。
• 总结物理、化学、生物学和材料科学领域的数据集、应用与实用基准。
• 讨论挑战、未解问题与未来方向；发布一个支持性的GitHub资源集合。

提出的方法

• 用坐标和特征定义几何图并形式化其对称变换（E(3)，SE(3)）。
• 使用群表示将模型分类为不变GNN、协变GNN和几何图注意力变换器。
• 描述几何信息传递，包括标量（不变）更新、向量（协变）更新及CG张量积。
• 提供模型分类：基于标量化的不变/协变方法与高阶可操控方法（TFN、SEGNN、LieConv 等）。
• 讨论数据结构以及从数据到模型再到几何图应用的通用流程。
• 为物理动力学、分子性质、蛋白质/RNA结构、晶体等领域的应用与数据集提供路线图。

实验结果

研究问题

• RQ1 在欧几里得变换下，不变、协变和可控几何GNN的分类体系与设计原则是什么？
• RQ2 如何利用几何图提升分子、蛋白质与材料科学任务的性能，相较于传统GNN？
• RQ3 哪些数据集和基准测试最好地展示了几何GNN在各领域的优点与局限？
• RQ4 几何GNN研究中的关键挑战、未解问题与未来方向是什么？

主要发现

• 利用对称性约束的几何GNN在分子性质预测、对接和抗体设计等基准上优于传统方法。
• 该综述提供一个统一的分类，将不变、协变（标量和高阶可操控）模型与几何图注意力变换器区分开来。
• 发布了一个GitHub仓库，用于收集几何GNN相关的参考文献、数据集、代码、基准和资源。
• 本文讨论理论基础（群表示、协变性、不变性）以及在物理、化学、生物和材料科学中的实际应用。
• 作者强调领域中的挑战与未来方向，并为从业者提供全面的输入输出流程。