[论文解读] Quantum chemistry-augmented neural networks for reactivity prediction: Performance, generalizability and interpretability

Thijs Stuyver, Connor W. Coley|arXiv (Cornell University)|Jul 22, 2021

Machine Learning in Materials Science参考文献 19被引用 6

一句话总结

该论文提出了一种量子化学增强的图神经网络（ml-QM-GNN），通过将从密度泛函理论（DFT）计算得到的反应性描述符——如Fukui函数、原子电荷和NMR屏蔽常数——整合到基于结构的图神经网络中，以提升反应性预测性能。该模型在反应区域选择性分类和活化能回归任务中均达到最先进水平，尤其在数据稀缺条件下表现优异，同时通过将预测结果与已知的物理有机化学原理关联，实现了可解释性。

ABSTRACT

There is a perceived dichotomy between structure-based and descriptor-based molecular representations used for predictive chemistry tasks. Here, we study the performance, generalizability, and interpretability of the recently proposed quantum mechanics-augmented graph neural network (ml-QM-GNN) architecture as applied to the prediction of regioselectivity (classification) and of activation energies (regression). In our hybrid QM-augmented model architecture, structure-based representations are first used to predict a set of atom- and bond-level reactivity descriptors derived from density functional theory (DFT) calculations. These estimated reactivity descriptors are combined with the original structure-based representation to make the final reactivity prediction. We demonstrate that our model architecture leads to significant improvements over structure-based GNNs in not only overall accuracy, but also in generalization to unseen compounds. Even when provided training sets of only a couple hundred labeled data points, the ml-QM-GNN outperforms other state-of-the-art model architectures that have been applied to these tasks. Further, because the predictions of our model are grounded in (but not restricted to) QM descriptors, we are able to relate predictions to the conceptual frameworks commonly used to gain qualitative insights into reactivity phenomena. This effort results in a productive synergy between theory and data science, wherein our QM-augmented models provide a data-driven confirmation of previous qualitative analyses, and these analyses in their turn facilitate insights into the decision-making process occurring within ml-QM-GNNs.

研究动机与目标

• 通过将物理上有意义的描述符整合到图神经网络中，弥合数据驱动机器学习与量子化学之间的差距。
• 在训练数据仅限数百个样本的情况下，提升反应性预测模型的性能与泛化能力。
• 通过将预测结果建立在物理有机化学的既有概念框架之上，增强模型的可解释性。
• 验证QM增强模型能够再现并确认定性反应性趋势，同时为决策过程提供数据驱动的洞察。
• 证明混合模型在多种反应性预测任务中，相较于纯结构基图神经网络，在准确性和鲁棒性方面均表现更优。

提出的方法

• ml-QM-GNN 首先利用基于结构的图神经网络，从分子拓扑中预测原子级和键级的反应性描述符。
• 这些描述符源自DFT计算，包括Fukui函数、原子电荷（通过NPA方法获得）以及NMR屏蔽常数。
• 将预测得到的DFT描述符与原始分子图表示拼接，形成增强的输入，用于最终的反应性预测。
• 最终模型采用混合架构，对分类（区域选择性）和回归（活化能）任务进行端到端训练。
• 通过消融研究增强模型可解释性，隔离特定描述符（如硬-硬与软-软描述符）的贡献。
• 性能通过在E2/SN2和芳香取代数据集上采用5折交叉验证与选择性采样进行评估，并与基线GNN及其他SOTA模型进行比较。

实验结果

研究问题

• RQ1 在低数据环境下，将DFT衍生的反应性描述符整合到图神经网络架构中，是否能显著提升预测准确率与泛化能力？
• RQ2 引入量子化学描述符在多大程度上增强了机器学习模型在反应性预测中的可解释性？
• RQ3 ml-QM-GNN的预测在多大程度上与已知的物理有机化学原理（如HSAB概念或前线轨道理论）一致？
• RQ4 不同类型的反应性描述符（如硬-硬与软-软描述符）在模型性能与决策过程中分别发挥何种作用？
• RQ5 当仅使用约几百个标注数据点进行训练时，该模型能否在未见化合物和反应类型上实现有效泛化？

主要发现

• 在仅使用200个训练样本的E2/SN2数据集上，ml-QM-GNN在活化能预测任务中达到5.35 ± 0.08 kcal/mol的测试均方根误差（RMSE），显著优于常规GNN（RMSE = 16.77 ± 0.27 kcal/mol）。
• 在芳香取代数据集上，模型在5折交叉验证中实现了98.8%的分类准确率（1499/1516），预测结果与物理有机化学标准高度一致。
• 消融研究显示，依赖硬-硬描述符（电荷、NMR屏蔽）和软-软描述符（Fukui函数）的模型各自捕捉了不同的反应性模式，而完整模型的表现优于任一消融变体。
• 模型预测与物理有机化学中的静电效应和前线轨道准则高度一致，在同时满足两种准则的783个样本中，所有模型均正确分类。
• 即使在极少量标注数据（200个样本）条件下，ml-QM-GNN仍展现出优于最先进模型的泛化能力，证明其在数据稀缺环境下的鲁棒性。
• QM描述符的整合使得模型决策过程具有明确可解释性，能够将预测结果与HSAB和概念DFT等既有理论框架联系起来。