[论文解读] Directional Message Passing for Molecular Graphs

Johannes Gasteiger, Janek Groß+1 more|arXiv (Cornell University)|Mar 6, 2020

Computational Drug Discovery Methods被引用 345

一句话总结

DimeNet 引入带有球面对称傅里叶-贝塞尔基的定向信息传递，以编码原子之间的距离和角度，从而在分子性质预测上达到 state-of-the-art，并实现 MD 的平滑、可微分的力预测。

ABSTRACT

Graph neural networks have recently achieved great successes in predicting quantum mechanical properties of molecules. These models represent a molecule as a graph using only the distance between atoms (nodes). They do not, however, consider the spatial direction from one atom to another, despite directional information playing a central role in empirical potentials for molecules, e.g. in angular potentials. To alleviate this limitation we propose directional message passing, in which we embed the messages passed between atoms instead of the atoms themselves. Each message is associated with a direction in coordinate space. These directional message embeddings are rotationally equivariant since the associated directions rotate with the molecule. We propose a message passing scheme analogous to belief propagation, which uses the directional information by transforming messages based on the angle between them. Additionally, we use spherical Bessel functions and spherical harmonics to construct theoretically well-founded, orthogonal representations that achieve better performance than the currently prevalent Gaussian radial basis representations while using fewer than 1/4 of the parameters. We leverage these innovations to construct the directional message passing neural network (DimeNet). DimeNet outperforms previous GNNs on average by 76% on MD17 and by 31% on QM9. Our implementation is available online.

研究动机与目标

• 在 GNN 中引入定向信息，以捕捉分子中的角度和扭转效应。
• 使用球贝塞尔函数和球谐函数为距离和角度建立有原则性、正交的基表示。
• 提出 DimeNet 架构，用于预测分子性质并实现能量守恒的分子动力学模拟。

提出的方法

• 将信息嵌入为与原子对相关的定向嵌入，而非原子中心。
• 用径向基函数表示距离，用二维球面傅里叶-贝塞尔基表示角度。
• 更新并聚合定向消息嵌入，类比带有角度和距离相关相互作用的置信传播。
• 确保旋转、平移、置换和反演不变性；为分子动力学实现连续可微。

实验结果

研究问题

• RQ1 如何将定向信息（邻居方向之间的角度）整合到分子图神经网络中？
• RQ2 球贝塞尔基与球谐基是否能提高表示原子间距离/角度的效率和准确性？
• RQ3 具备定向消息传递的 GNN 是否能在 QM9 和 MD17 基准上刷新最先进水平？

主要发现

目标	单位	PPGN	SchNet	PhysNet	MEGNet-s	Cormorant	DimeNet
µ	D	0.047	0.033	0.0529	0.05	0.13	0.0286
α	a03	0.131	0.235	0.0615	0.081	0.092	0.0469
ϵHOMO	meV	40.3	41	32.9	43	36	27.8
ϵLUMO	meV	32.7	34	24.7	44	36	19.7
Δϵ	meV	60.0	63	42.5	66	60	34.8
R2	a02	0.592	0.073	0.765	0.302	0.673	0.331
ZPVE	meV	3.12	1.7	1.39	1.43	1.98	1.29
U0	meV	36.8	14	8.15	12	28	8.02
U	meV	36.8	19	8.34	13	-	7.89
H	meV	36.3	14	8.42	12	-	8.11
G	meV	36.4	14	9.40	12	-	8.98
cv	cal	mol K	0.055	0.033	0.0280	0.029	0.031	0.0249
std. MAE	%	1.84	1.76	1.37	1.80	2.14	1.05
logMAE	-	-	−4.64	−5.17	−5.35	−5.17	−4.75	−5.57

• DimeNet 在 MD17 上平均领先前代 GNNs 76%，在 QM9 上领先 31%。
• 使用球形贝塞尔基表示在提高性能的同时减少参数数量，相较于高斯径向基。
• 消融表明定向信息和二维球面傅里叶-贝塞尔基对性能有实质性影响（例如 NSHBF=1 会降 MAE；去掉定向消息将严重损害结果）。
• DimeNet 在 QM9 的 12 个目标中有 11 个达到最先进水平，且在 1000 个训练样本下提供具有竞争力的 MD 结果。
• 该模型可两次连续可微，适用于同时预测能量和原子力，支持能量守恒的 MD 模拟。