[论文解读] Graph Convolutional Neural Networks for (QM)ML/MM Molecular Dynamics Simulations

Albert Hofstetter, Lennard Böselt+1 more|arXiv (Cornell University)|Jun 29, 2022

Machine Learning in Materials Science参考文献 61被引用 32

一句话总结

本文提出一种基于∆-学习的图卷积神经网络（GCNN），用于实现凝聚相体系的精确、高效（QM）ML/MM分子动力学模拟。通过将DFTB作为基线模型，并结合利用消息传递捕捉长程相互作用的GCNN，该方法在能量和力预测中实现了化学精度，且在多种溶剂化体系中表现出优于基线模型的稳定性与泛化能力。

ABSTRACT

To accurately study chemical reactions in the condensed phase or within enzymes, both a quantum-mechanical description and sufficient configurational sampling is required to reach converged estimates. Here, quantum mechanics/molecular mechanics (QM/MM) molecular dynamics (MD) simulations play an important role, providing QM accuracy for the region of interest at a decreased computational cost. However, QM/MM simulations are still too expensive to study large systems on longer time scales. Recently, machine learning (ML) models have been proposed to replace the QM description. The main limitation of these models lies in the accurate description of long-range interactions present in condensed-phase systems. To overcome this issue, a recent workflow has been introduced combining a semi-empirical method (i.e. density functional tight binding (DFTB)) and a high-dimensional neural network potential (HDNNP) in a $\Delta$-learning scheme. This approach has been shown to be capable of correctly incorporating long-range interactions within a cutoff of 1.4 nm. One of the promising alternative approaches to efficiently take long-range effects into account is the development of graph convolutional neural networks (GCNN) for the prediction of the potential-energy surface. In this work, we investigate the use of GCNN models -- with and without a $\Delta$-learning scheme -- for (QM)ML/MM MD simulations. We show that the $\Delta$-learning approach using a GCNN and DFTB and as baseline achieves competitive performance on our benchmarking set of solutes and chemical reactions in water. The method is additionally validated by performing prospective (QM)ML/MM MD simulations of retinoic acid in water and S-adenoslymethioniat interacting with cytosine in water. The results indicate that the $\Delta$-learning GCNN model is a valuable alternative for (QM)ML/MM MD simulations of condensed-phase systems.

研究动机与目标

• 开发一种基于图卷积神经网络（GCNN）的机器学习势，用于（QM）ML/MM分子动力学模拟。
• 评估GCNN是否能够准确建模凝聚相体系中的长程相互作用与非局部电荷转移。
• 将带有与不带∆-学习的GCNN与成熟的高维神经网络势（HDNNPs）进行性能比较。
• 评估训练数据排序、损失函数加权以及邻域简化对模型泛化能力与计算成本的影响。
• 确定基于GCNN的∆-学习在高元素多样性体系（如金属酶或有机金属催化剂）中的适用性。

提出的方法

• 训练图卷积神经网络（GCNN）以预测（QM）ML/MM模拟中QM区域的势能面（PES）。
• GCNN通过带有全连接层的消息传递操作在原子图上传播信息，从而实现非局部电子结构效应的建模。
• 采用∆-学习方案，即GCNN预测相对于DFTB基线的能量与力校正，从而提升长程相互作用的精度。
• 损失函数包含加权项：总能量（wE = 1）、QM力（wFQM = 0.1）与MM力（wFMM = 10），以优化泛化性能。
• 测试邻域简化方案以降低计算成本，但其导致力预测精度下降。
• 将训练数据划分为时间有序与随机打乱两组，以评估数据排序对收敛性与性能的影响。

实验结果

研究问题

• RQ1 GCNN结合∆-学习是否能在溶剂化分子的（QM）ML/MM MD模拟中实现与HDNNPs相当或更优的精度？
• RQ2 在损失函数中包含QM与MM力梯度是否会影响模型的泛化能力与预测精度？
• RQ3 数据排序（时间顺序 vs. 随机）是否会影响基于GCNN的（QM）ML/MM MD模拟中的训练收敛性与模型性能？
• RQ4 邻域简化方案在多大程度上降低了计算成本，同时不牺牲MD模拟中的力预测精度？
• RQ5 在复杂凝聚相体系中，GCNN相较于HDNNPs在元素多样性增加时的可扩展性如何？

主要发现

• ∆-学习GCNN模型在所有五个测试体系（包括视黄酸和SAM/胞嘧啶在水中的体系）中，能量与力预测的平均绝对误差（MAE）均低于基线DFTB。
• 即使初始QM训练集仅7,000步，带有∆-学习的GCNN仍实现了长达110,000步的稳定（QM）ML/MM MD模拟。
• 最优损失加权（wE = 1，wFQM = 0.1，wFMM = 10）提升了泛化能力，而更高的QM力权重则导致过拟合并降低性能。
• 随机打乱的训练数据收敛速度优于时间有序数据，显著缩短训练时间且未影响模型精度。
• 邻域简化方案降低了计算成本，但显著降低了力预测精度，因此不适用于MD模拟。
• 与HDNNPs因对称函数呈指数增长而面临可扩展性瓶颈不同，基于GCNN的∆-学习方法在元素多样性增加时表现出更优的可扩展性。