[论文解读] Molecular Property Prediction: A Multilevel Quantum Interactions Modeling Perspective

Chengqiang Lu, Qi Liu+4 more|arXiv (Cornell University)|Jun 25, 2019

Machine Learning in Materials Science参考文献 29被引用 28

一句话总结

该论文提出了一种多层级图卷积网络（MGCN），通过分层建模分子中的量子相互作用（如原子级、成对级、三重级等）来提升分子性质预测性能。通过利用图结构表示和多层级消息传递机制，MGCN在推理速度上比密度泛函理论（DFT）快15万倍，同时在不同大小的分子间展现出优异的泛化能力和可迁移性。

ABSTRACT

Predicting molecular properties (e.g., atomization energy) is an essential issue in quantum chemistry, which could speed up much research progress, such as drug designing and substance discovery. Traditional studies based on density functional theory (DFT) in physics are proved to be time-consuming for predicting large number of molecules. Recently, the machine learning methods, which consider much rule-based information, have also shown potentials for this issue. However, the complex inherent quantum interactions of molecules are still largely underexplored by existing solutions. In this paper, we propose a generalizable and transferable Multilevel Graph Convolutional neural Network (MGCN) for molecular property prediction. Specifically, we represent each molecule as a graph to preserve its internal structure. Moreover, the well-designed hierarchical graph neural network directly extracts features from the conformation and spatial information followed by the multilevel interactions. As a consequence, the multilevel overall representations can be utilized to make the prediction. Extensive experiments on both datasets of equilibrium and off-equilibrium molecules demonstrate the effectiveness of our model. Furthermore, the detailed results also prove that MGCN is generalizable and transferable for the prediction.

研究动机与目标

• 为解决密度泛函理论（DFT）在大规模数据集上预测分子性质时的计算低效问题。
• 比现有机器学习方法更有效地建模分子中的复杂量子相互作用（例如静电作用、交换-排斥作用）。
• 开发一种可泛化且可迁移的模型，能够利用小分子和中分子的数据预测大分子的性质。
• 将分层的量子相互作用模式（原子级、成对级、三重级）直接整合到深度学习框架中。

提出的方法

• 将每个分子表示为图，以无损方式保留其结构和空间信息。
• 设计一种分层图神经网络，用于处理多个层级的相互作用：点级（原子）、成对级（原子对）、三重级（原子三元组）及更高阶相互作用。
• 使用消息传递机制在不同层级间传播和聚合相互作用表征，以捕捉复杂的量子关联。
• 通过分子性质标签（例如离解能）端到端训练模型，并使用读出层生成最终预测结果。
• 采用预训练与微调策略，提升从小分子到大分子的可迁移性。
• 基于经验验证优化相互作用层的数量，发现四层在模型容量与泛化能力之间达到最佳平衡。

实验结果

研究问题

• RQ1 深度学习模型能否有效捕捉分子中多层级的量子相互作用，从而提升性质预测性能？
• RQ2 与DFT及现有GNN相比，所提出的MGCN在预测准确率和推理速度方面表现如何？
• RQ3 在小分子上训练的模型在多大程度上能泛化到大分子并准确预测其性质？
• RQ4 在模型容量与泛化能力之间取得最佳平衡时，最优的分层相互作用层数是多少？

主要发现

• 与DTNN、SchNet和enn-s2s基线模型相比，MGCN在平衡态和非平衡态分子数据集上均实现了最低的平均绝对误差（MAE）。
• 该模型比DFT快15万倍，单个CPU核心上每分子的推理时间仅为0.024秒。
• MGCN展现出强大的可迁移性：仅在小分子上训练的“develop”模型即可在大分子上实现低MAE，而“pre-train”模型进一步提升了性能，且仅需极少的大分子数据。
• 四层相互作用结构表现最佳，与DFT中通常使用的对称函数数量一致，表明其具有坚实的理论与实证对应关系。
• 分层消息传递机制促进了更优的表征学习，尤其在标注数据稀缺时，得益于更强的泛化能力。