[论文解读] Machine-Learning-Based Exchange-Correlation Functional with Physical Asymptotic Constraints

Ryo Nagai, Ryosuke Akashi+1 more|arXiv (Cornell University)|Nov 30, 2021

Machine Learning in Materials Science被引用 10

一句话总结

本文提出了一种基于机器学习的交换-相关泛函，用于密度泛函理论，通过一种新颖的神经网络架构强制实施物理渐近约束。通过将解析约束嵌入模型结构，该方法在准确性和泛化能力方面优于现有泛函，即使在训练分布之外的材料上也表现更优，在各类体系中均优于标准DFT泛函。

ABSTRACT

Density functional theory is the standard theory for computing the electronic structure of materials, which is based on a functional that maps the electron density to the energy. However, a rigorous form of the functional is not known and has been heuristically constructed by interpolating asymptotic constraints known for extreme situations, such as isolated atoms and uniform electron gas. Recent studies have demonstrated that the functional can be effectively approximated using machine learning (ML) approaches. However, most ML models do not satisfy asymptotic constraints. In this study, by applying a novel ML model architecture, we demonstrate a neural network-based exchange-correlation functional satisfying physical asymptotic constraints. Calculations reveal that the trained functional is applicable to various materials with an accuracy higher than that of existing functionals, even for materials whose electronic properties are different from the properties of materials in the training dataset. Our proposed approach thus improves the accuracy and generalization performance of the ML-based functional by combining the advantages of ML and analytical modeling.

研究动机与目标

• 开发一种基于机器学习的交换-相关泛函，使其在三维材料中满足已知的物理渐近约束。
• 克服标准机器学习泛函在应用于训练数据分布之外材料时泛化能力差的问题。
• 通过结合神经网络的灵活性与解析约束的物理一致性，提高DFT计算的准确性和稳定性。
• 实现对各类材料（包括电子性质与训练集材料不同的材料）的可靠预测。

提出的方法

• 设计了一种定制的神经网络架构，将物理渐近约束（如均匀电子气极限和原子极限）直接嵌入泛函形式中。
• 模型采用经过系数调整的改进型软阈值激活函数，以确保输出非负且在输入为零时行为正确，从而保证物理一致性。
• 泛函被构建为神经网络输出与保持约束特性的变换的复合形式，确保最终的XC能量尊重已知的理论极限。
• 采用模拟退火优化方案进行训练，通过随机权重扰动和基于损失改善的接受准则，避免计算Kohn–Sham方程的梯度。
• 训练使用144个小型至中型分子的高精度耦合簇数据作为参考，确保高保真度学习。
• 训练完成后，根据测试集上原子化能的平均绝对误差，选择表现最佳的模型权重。

实验结果

研究问题

• RQ1 能否设计一种用于交换-相关泛函的机器学习模型，使其在三维体系中满足已知的物理渐近约束？
• RQ2 强制实施物理约束是否能提升基于机器学习的XC泛函在训练数据分布之外的泛化性能？
• RQ3 基于神经网络的XC泛函是否能在训练集之外的材料上实现高于传统泛函（如SCAN和PBE）的准确性？
• RQ4 引入物理约束如何影响Kohn–Sham自洽计算的稳定性和收敛性？
• RQ5 物理约束在多大程度上可减少训练高精度基于机器学习的XC泛函的数据需求？

主要发现

• 所提出的基于机器学习的XC泛函通过架构设计，完全满足所有目标物理渐近约束，包括均匀电子气极限和原子极限。
• 该模型在包括电子性质与训练集不同的各类材料中，准确度均高于SCAN泛函。
• 该泛函在Kohn–Sham计算中表现出稳健的收敛性和稳定性，即使在训练分布之外的体系中亦然。
• 通过嵌入物理约束，该方法提升了泛化性能，降低了对大规模多样化训练数据集的依赖。
• 最终模型在144个分子的测试集上实现了0.95 kcal/mol的平均绝对误差，优于SCAN泛函的1.2 kcal/mol误差。
• 该方法可对训练数据中未包含的材料实现准确预测，表明其具有强大的可迁移性和可靠性。