[论文解读] Using differentiable programming to obtain an energy and density-optimized exchange-correlation functional

Sebastian Dick, Mariví Fernández-Serra|arXiv (Cornell University)|Jun 8, 2021

Machine Learning in Materials Science参考文献 44被引用 4

一句话总结

该论文提出 xc-diff，一种基于可微编程的方法，通过联合最小化能量误差和密度误差来优化基于神经网络的元GGA交换-关联泛函。通过施加精确的物理约束并利用 JAX 中的自动微分，该模型在非经验泛函中实现了最先进精度，其在能量和密度预测方面均优于 SCAN 和 B3LYP 等成熟方法，同时引入了一种新型的能量-密度误差度量用于泛函排序。

ABSTRACT

Using an end-to-end differentiable implementation of the Kohn-Sham self-consistent field equations, we obtain an accurate neural network-based exchange and correlation (XC) functional of the electronic density. The functional is optimized using information on both energy and density while exact constraints are enforced through an appropriate neural network architecture. We evaluate our model against different families of XC approximations and show that, for non-empirical functionals, there is a strong linear correlation between energy and density errors. We use this correlation to define a novel XC functional quality metric that includes both energy and density errors, leading to a new, improved way to rank different approximations. Judged by this metric, our machine-learned functional significantly outperforms those within the same rung of approximations.

研究动机与目标

• 开发一种高精度的非经验交换-关联泛函，同时优化总能量和电子密度的准确性。
• 通过端到端可微编程实现基于梯度的优化，以克服 Kohn-Sham DFT 中非线性密度响应的挑战。
• 在神经网络架构中直接嵌入精确的物理约束（如局部 Lieb-Oxford 界限），以提升泛化能力和物理一致性。
• 提出一种新型复合度量 $\mathcal{E}\mathcal{D}_{|n|}$，将能量误差与密度误差结合，以实现更优的泛函排序。
• 证明在物理约束下进行数据驱动优化，可超越传统非经验泛函（如 SCAN），即使在元-GGA 框架内亦然。

提出的方法

• 使用 JAX 构建 Kohn-Sham 自洽场方程的端到端可微实现，以支持对完整 DFT 求解过程的自动微分。
• 采用结合 WTMAD-2 能量误差与 $\varepsilon_{|n|}$ 密度误差的损失函数，对基于神经网络的元-GGA 泛函进行训练，所有误差均相对于高精度耦合簇参考值计算。
• 将物理约束（包括局部 Lieb-Oxford 界限）直接嵌入神经网络架构中，以确保物理一致性并提升泛化能力。
• 从非经验泛函中观察到的能量误差与密度误差之间的线性相关性出发，推导出一种新型复合度量 $\mathcal{E}\mathcal{D}_{|n|}$，其斜率 $\gamma = 1084.87\ \text{kcal mol}^{-1}$ 通过参考数据回归获得。
• 训练集主要由线性体系构成，以降低计算成本，通过测试验证其在更复杂分子上的泛化能力。
• 该方法利用电子密度响应对泛函参数的梯度信息，显著提升数据效率，并实现精确优化。

实验结果

研究问题

• RQ1 可微编程方法是否能够实现在 DFT 交换-关联泛函中对能量误差与密度误差的联合优化？
• RQ2 施加精确的物理约束（如 Lieb-Oxford 界限）是否能提升机器学习泛函的泛化能力与准确性？
• RQ3 在非经验泛函中，能量误差与密度误差之间是否存在一致的线性关系？该关系能否用于定义更稳健的泛函排序度量？
• RQ4 基于数据驱动的非经验泛函是否能在能量与密度预测两方面均超越已有的元-GGA 泛函（如 SCAN 与 PBE0）？
• RQ5 通过 JAX 实现的自动微分在泛函优化中在多大程度上提升了训练效率与精度？

主要发现

• 在 G2/97 数据集上，xc-diff 泛函在所有测试的元-GGA 泛函中实现了最低的密度误差，优于 SCAN，并与 PBE0 表现相当。
• 与 PBE0 相比，xc-diff 将总 WTMAD-2 能量误差降低了 9%，同时在密度精度方面表现更优，在新的 $\mathcal{E}\mathcal{D}_{|n|}$ 度量中位居 B3LYP 之上。
• 在非经验泛函中，WTMAD-2 能量误差与密度误差之间观察到强线性相关性（$R^2 = 0.87$），验证了复合度量的有效性。
• 该泛函的密度误差低于线性趋势的预期值，表明其已超越非经验元-GGA 泛函的性能边界。
• 在神经网络架构中引入局部 Lieb-Oxford 界限显著提升了模型的泛化能力与物理一致性。
• 该方法表明，可微编程通过利用能量与密度响应的梯度信息，能够有效优化复杂且非线性的 DFT 泛函。