[论文解读] Accurate and scalable exchange-correlation with deep learning

Giulia Luise, Chin‐Wei Huang+23 more|ArXiv.org|Jun 17, 2025

Bayesian Methods and Mixture Models被引用 6

一句话总结

tldr: Skala 是一个用于 DFT 的深度学习交换相关泛函，在 GMTKN55 上实现最先进的准确性，同时保持半局部计算成本，其通过从大规模高精度训练集学习非局部相互作用并使用两阶段训练协议来实现。

ABSTRACT

Density Functional Theory (DFT) is the most widely used electronic structure method for predicting the properties of molecules and materials. Although DFT is, in principle, an exact reformulation of the Schrödinger equation, practical applications rely on approximations to the unknown exchange-correlation (XC) functional. Most existing XC functionals are constructed using a limited set of increasingly complex, hand-crafted features that improve accuracy at the expense of computational efficiency. Yet, no current approximation achieves the accuracy and generality for predictive modeling of laboratory experiments at chemical accuracy -- typically defined as errors below 1 kcal/mol. In this work, we present Skala, a modern deep learning-based XC functional that bypasses expensive hand-designed features by learning representations directly from data. Skala achieves chemical accuracy for atomization energies of small molecules while retaining the computational efficiency typical of semi-local DFT. This performance is enabled by training on an unprecedented volume of high-accuracy reference data generated using computationally intensive wavefunction-based methods. Notably, Skala systematically improves with additional training data covering diverse chemistry. By incorporating a modest amount of additional high-accuracy data tailored to chemistry beyond atomization energies, Skala achieves accuracy competitive with the best-performing hybrid functionals across general main group chemistry, at the cost of semi-local DFT. As the training dataset continues to expand, Skala is poised to further enhance the predictive power of first-principles simulations.

研究动机与目标

• 动机：需要准确的交换-相关泛函，以在化学和材料科学中可靠地预测实验结果。
• 开发一个可扩展的、数据驱动的 XC 泛函，其在不增加计算成本的情况下超越混合泛函的准确性。
• 展示从数据中学习的非局部表示可以替代 Jacob’s ladder 高 rung 的组成要素。
• 展示随着训练数据的扩展和多样性，Skala 的准确性呈现系统性提升。
• 提出一个版本化、可持续改进的 DFT 泛函框架，由高质量参考数据引导。

提出的方法

• 将交换-相关能量建模为 E_xc[ρ] = −(3/4) (6/π)^{1/3} ∫ ρ_up^{4/3}(r) + ρ_down^{4/3}(r)^{1/3} f_θ[x[ρ]](r) dr，其中 f_θ 是一个神经增强因子。
• 使用神经算子风格的架构来学习半局部输入特征的非局部表示 x[ρ](r)（meta-GGA 级别），并通过一个粗略的原子中心网格在网格点之间交换信息，以保持近似 O(N) 的尺度。
• 采用两阶段训练协议：(i) 在固定密度下进行预训练（用 B3LYP 密度近似真实密度）以预测总能量；(ii) SCF 微调，其中模型使用即时 SCF 密度以改进自洽能量。
• 在 Microsoft Research Accurate Chemistry Collection (MSR-ACC) 上训练，该集合包含 ~400k 高精度能量差（W1-F12/W1w 级别，CCSD(T)/CBS 精度）以及其他公开数据集。
• 进行正则化以满足已知的 XC 约束（例如 Lieb-Oxford 上界），并与固定的 D3 色散修正组合，侧重热化学和动力学而非显式色散建模。

实验结果

研究问题

• RQ1 一个深度学习 XC 泛函是否能够在保持半局部计算成本的同时，在主族化学基准上达到化学精度？
• RQ2 网格点相互作用的非局部学习是否在不使用 Hartree–Fock 交换的情况下提供必要的精度？
• RQ3 增加训练数据的多样性和规模如何影响 Skala 的准确性和泛化？
• RQ4 在训练 Skala 时，是否从数据中自然出现学习到的物理约束（例如 Tc 的正性）？
• RQ5 Skala 的架构在网格细化和 SCF 程序下是否具有可扩展性和收敛性？

主要发现

• Skala-1.1 在 GMTKN55 上实现低于领先泛函的 WTMAD-2，在许多热化学和动力学子集中超过混合泛函。
• 非局部架构模组相较于纯局部模型提供了显著的准确性提升，在 Ablations 中对 Diet GMTKN55 的 WTMAD-2 约降低了 50%。
• 随着训练数据的多样性和规模增加，准确性呈系统性提升，显著受益于增加反应、反应势垒高度、非共价相互作用和构象体。
• 学习到的非局部相互作用近似了非局部交换的相当一部分（大约 53.7% 的有效交换，接近 60% 的参考值），且无需显式 HF 交换。
• 使用即时密度进行 SCF 微调可同时提升 SCF 能量与密度，表明能量收益不仅仅来自误差补偿。
• Skala 仍然具有可计算的可扩展性，总参数约为 ~385k，同时保持半局部的 O(N)-style 规模并提供高精度。