[论文解读] Gated Graph Recursive Neural Networks for Molecular Property Prediction

Hiroyuki Shindo, Yūji Matsumoto|arXiv (Cornell University)|Aug 31, 2019

Machine Learning in Materials Science参考文献 30被引用 9

一句话总结

本文提出了一种新型图神经网络——门控图递归神经网络（GGRNet），该网络将分子建模为包含3D原子坐标的完整有向图，通过共享参数和跳跃连接实现高效、精确的分子性质预测。GGRNet在QM7b、QM8和QM9基准测试中达到最先进性能，在大多数分子性质回归任务中优于先前方法。

ABSTRACT

Molecule property prediction is a fundamental problem for computer-aided drug discovery and materials science. Quantum-chemical simulations such as density functional theory (DFT) have been widely used for calculating the molecule properties, however, because of the heavy computational cost, it is difficult to search a huge number of potential chemical compounds. Machine learning methods for molecular modeling are attractive alternatives, however, the development of expressive, accurate, and scalable graph neural networks for learning molecular representations is still challenging. In this work, we propose a simple and powerful graph neural networks for molecular property prediction. We model a molecular as a directed complete graph in which each atom has a spatial position, and introduce a recursive neural network with simple gating function. We also feed input embeddings for every layers as skip connections to accelerate the training. Experimental results show that our model achieves the state-of-the-art performance on the standard benchmark dataset for molecular property prediction.

研究动机与目标

• 为解决大规模分子筛选中量子化学模拟的高计算成本挑战。
• 开发一种可扩展、准确且表达能力强的图神经网络，用于分子表征学习。
• 通过利用空间信息和所有原子对之间的递归消息传递，提升分子性质预测性能。
• 通过跳跃连接和层间共享参数加速训练。
• 在标准基准上评估模型，并证明其在现有方法上的优越性能。

提出的方法

• 将分子建模为完整有向图，其中每个原子具有3D空间坐标。
• 使用带有简单门控机制的递归神经网络，基于原子间距离更新隐藏表征。
• 在所有层之间共享参数，以降低模型复杂度并提升泛化能力。
• 在每一层注入输入嵌入作为跳跃连接，以加速收敛并稳定训练。
• 引入辅助特征（如原子数量和空间范围）以增强表征学习。
• 应用简单的平均读出函数，聚合原子级表征以进行性质预测。

实验结果

研究问题

• RQ1 具有共享参数和跳跃连接的递归图神经网络是否能在分子性质预测中实现最先进性能？
• RQ2 与仅依赖图结构的模型相比，引入3D原子坐标和原子间距离如何提升模型性能？
• RQ3 跳跃连接和距离特征对训练效率与预测准确性的贡献如何？
• RQ4 尽管整体表现优异，为何GGRNet在QM9数据集的某些性质（如U0、U、H和G）上表现欠佳？
• RQ5 门控机制和特征注入等架构组件如何影响模型性能与泛化能力？

主要发现

• 在QM7b数据集的12项指标中，GGRNet在7项上达到最先进性能，其中mu性质的平均绝对误差（MAE）最低，为0.172。
• 在QM9数据集中，GGRNet在偶极矩（mu）上的MAE最低，为0.172，极化率（alpha）为0.453，HOMO能级为0.00372，优于GC、DTNN和MPNN。
• 消融实验表明，距离特征对R2（电子空间范围）预测至关重要，移除后MAE从1.61上升至154。
• 原子嵌入特征对性能有中等贡献，移除后MAE从0.000861上升至0.000939。
• 模型在原子化能（U0、U）、生成焓（H）和吉布斯自由能（G）上的表现较差，MAE超过28，表明其在学习热力学性质方面存在局限。
• 尽管存在上述例外，GGRNet在大多数性质上持续优于基线模型，展现出强大的分子表征学习泛化能力与表达能力。