[论文解读] DeepDFT: Neural Message Passing Network for Accurate Charge Density Prediction

Peter Bjørn Jørgensen, Arghya Bhowmik|arXiv (Cornell University)|Nov 4, 2020

Industrial Vision Systems and Defect Detection被引用 13

一句话总结

DeepDFT 通过图神经网络结合神经消息传递，实现了在分子、固体和液体体系中对电子电荷密度的高精度预测，并具备线性可扩展性。该模型基于大规模 DFT 数据进行训练，在 QM9 数据集上的平均绝对误差低于 0.36%，优于标准 DFT 泛函的不确定性。

ABSTRACT

We introduce DeepDFT, a deep learning model for predicting the electronic charge density around atoms, the fundamental variable in electronic structure simulations from which all ground state properties can be calculated. The model is formulated as neural message passing on a graph, consisting of interacting atom vertices and special query point vertices for which the charge density is predicted. The accuracy and scalability of the model are demonstrated for molecules, solids and liquids. The trained model achieves lower average prediction errors than the observed variations in charge density obtained from density functional theory simulations using different exchange correlation functionals.

研究动机与目标

• 开发一种可扩展、高精度的机器学习模型，用于预测包括分子、固体和液体在内的各类材料的电子电荷密度 ρ(r)。
• 通过实现对含 10⁵ 个原子或更多体系的线性缩放预测，克服传统 Kohn-Sham DFT 的 O(n³) 计算成本。
• 通过学习与查询点位置无关的可迁移原子表征，实现模型在不同化学环境下的泛化能力。
• 实现预测精度低于 DFT 中不同交换-关联泛函引起的电荷密度变化范围。
• 通过发布用户友好、预训练的模型，使非专家也能便捷获取高保真电子结构计算能力，推动技术普及。

提出的方法

• 模型采用图结构表示，以原子为节点，基于 4 Å 截断半径定义边，支持在周期性边界条件下进行消息传递。
• 在每个查询点引入特殊的探测节点，用于预测 ρ(r)，接收消息但不发送消息。
• 通过多步消息传递机制更新原子表征，以可微分、端到端的方式聚合邻近原子的信息。
• 模型采用受 SchNet 启发的连续滤波图网络，利用高斯径向基函数编码原子间距离。
• 采用两阶段学习流程：首先编码原子环境，然后将表征映射到查询点的电荷密度，从而实现跨查询的表征复用。
• 模型在大规模 DFT 数据集上进行端到端训练，使用单块 GPU 训练两周，并在小规模验证集上采用早停策略。

实验结果

研究问题

• RQ1 深度学习模型能否实现对电子电荷密度的预测，其精度超越标准 DFT 泛函的不确定性？
• RQ2 基于消息传递的图网络能否在分子、固体和液体体系中实现线性可扩展性与泛化能力？
• RQ3 学习与查询点无关的原子环境表征，是否相比依赖查询点的模型能提升迁移能力与效率？
• RQ4 模型能否泛化到训练数据中代表性不足的稀有或特殊结构单元？
• RQ5 先学习电荷密度是否比直接预测总能量或带隙等衍生性质更具数据效率？

主要发现

• 在 QM9 测试集上，DeepDFT 的平均绝对误差为 0.36%，低于在八种交换-关联泛函下估算的平均 DFT 不确定性（0.6%）。
• 模型的平均误差显著低于原子密度叠加方法的 18% 误差，表明其具备强大的泛化能力。
• 在 LIB 正极材料数据集上，模型平均误差仅为 0.10%，表明其在复杂材料中也具备高精度。
• 在乙烯碳酸酯（Ethylene Carbonate）数据集上，平均误差为 0.53%，且未观察到异常值，归因于更全面的化学空间覆盖。
• QM9 中的异常值与训练数据中代表性不足的奇异结构单元相关，凸显了对数据分布敏感性。
• 模型展现出与体系尺寸的线性缩放关系，适用于模拟含多达 10⁵ 个原子的体系，为材料设计开辟了新应用可能。