[论文解读] Equivariant Graph Neural Networks for 3D Macromolecular Structure

Bowen Jing, Stephan Eismann+2 more|arXiv (Cornell University)|Jun 7, 2021

Machine Learning in Materials Science参考文献 14被引用 47

一句话总结

本文将基于几何向量感知的GNN扩展到原子级大分子结构，并加入向量门控，在ATOM3D任务上取得了优异结果，并展示了迁移学习的收益。

ABSTRACT

Representing and reasoning about 3D structures of macromolecules is emerging as a distinct challenge in machine learning. Here, we extend recent work on geometric vector perceptrons and apply equivariant graph neural networks to a wide range of tasks from structural biology. Our method outperforms all reference architectures on three out of eight tasks in the ATOM3D benchmark, is tied for first on two others, and is competitive with equivariant networks using higher-order representations and spherical harmonic convolutions. In addition, we demonstrate that transfer learning can further improve performance on certain downstream tasks. Code is available at https://github.com/drorlab/gvp-pytorch.

研究动机与目标

• 推动在3D大分子结构上进行鲁棒学习，使之对姿态和方向不变。
• 开发使用几何向量感知器和向量门控的原子级等变GNN。
• 在ATOM3D任务上将模型与CNN、GNN和ENN基线进行基准比较。
• 探索迁移学习以提升数据匮乏的大分子数据集的性能。

提出的方法

• 将大分子表示为图，其中原子为节点，边表示距离在4.5 Å内的成对原子。
• 使用带标量和向量特征的GVP-GNN在信息传递中保持旋转等变性。
• 引入向量门控，将信息从标量通道传播到原子级输入的向量通道。
• 将GVP-GNN扩展到原子级结构，具五层和均值池化用于下游任务。
• 在ATOM3D基准上与CNN、GNN和ENN基线进行比较。

实验结果

研究问题

• RQ1 等变消息传递结合向量特征是否能有效建模原子级大分子结构？
• RQ2 向量门控GVP-GNN在多样化的ATOM3D任务中是否相较于现有基线具有竞争力的性能？
• RQ3 从数据丰富的任务中进行迁移学习是否有利于数据匮乏的大分子任务？
• RQ4 在该领域，原子级的GVP-GNN扩展与更高阶的等变网络相比如何？

主要发现

• 向量门控GVP-GNN在三个ATOM3D任务中是最佳方法，在另外两个任务中并列第一。
• 尽管仅使用一阶向量表示，它仍与高阶ENN体系结构具有竞争力。
• 从SMP和RES进行的迁移学习在若干下游任务（PPI、MSP、PSR）上提升了性能。
• 预训练在某些任务上加速了学习，但在其他任务（如LBA）可能过拟合。
• 该方法在多样的大分子结构任务中表现出色，并提供了通用逼近性质的扩展。