[论文解读] General framework for E(3)-equivariant neural network representation of density functional theory Hamiltonian

Xiaoxun Gong, He Li+4 more|arXiv (Cornell University)|Oct 25, 2022

Machine Learning in Materials Science被引用 10

一句话总结

该论文提出 DeepH-E3，一种 E(3)-等变深度学习框架，将密度泛函理论（DFT）哈密顿量表示为材料结构的函数，通过在空间和自旋自由度上显式强制等变性，保持欧几里得对称性（包括自旋-轨道耦合）。该方法在电子结构预测中实现了亚毫电子伏特（sub-meV）精度，且训练效率高，可利用小系统数据实现对大超胞（>10⁴ 个原子）的从头算级精度计算。

ABSTRACT

Combination of deep learning and ab initio calculation has shown great promise in revolutionizing future scientific research, but how to design neural network models incorporating a priori knowledge and symmetry requirements is a key challenging subject. Here we propose an E(3)-equivariant deep-learning framework to represent density functional theory (DFT) Hamiltonian as a function of material structure, which can naturally preserve the Euclidean symmetry even in the presence of spin-orbit coupling. Our DeepH-E3 method enables very efficient electronic-structure calculation at ab initio accuracy by learning from DFT data of small-sized structures, making routine study of large-scale supercells ($> 10^4$ atoms) feasible. Remarkably, the method can reach sub-meV prediction accuracy at high training efficiency, showing state-of-the-art performance in our experiments. The work is not only of general significance to deep-learning method development, but also creates new opportunities for materials research, such as building Moiré-twisted material database.

研究动机与目标

• 开发一种深度学习框架，以在电子结构表示中保持完整的欧几里得（E(3)）对称性，包括自旋-轨道耦合。
• 克服先前等变网络在哈密顿量建模中忽略自旋自由度的局限性。
• 通过从小型 DFT 优化结构学习，实现在大超胞（>10⁴ 个原子）中精确且高效的电子结构预测。
• 通过将对称性直接嵌入神经网络架构，消除对人工选择的局部坐标变换的依赖。
• 为高通量材料建模建立一种通用、可微且对称一致的 DFT 哈密顿量表示。

提出的方法

• 该框架采用基于 e3nn 库的 E(3)-等变神经网络（ENN），确保在旋转、平移和自旋-轨道耦合下具有精确的变换性质。
• 采用基于图的架构，顶点和边特征按旋转变换群的不可约表示（l = 0 到 5）变换，包括偶（e）和奇（o）宇称分量。
• 模型使用高斯基函数作为输入特征，通过原子间径向距离定义，具有固定的间距和宽度参数。
• 采用多尺度特征更新机制，包含 3 个顶点和 3 个边更新模块，每个模块结合 EquiConv 层与 SiLU 和 Sigmoid 激活函数，实现非线性变换。
• 网络采用门控残差连接机制，其中 l=0 标量分量通过学习到的激活函数调制高阶张量特征。
• 通过最小化预测值与 DFT 计算值之间哈密顿矩阵的均方误差，端到端预测哈密顿矩阵，所有物理可观测量均从输出哈密顿量导出。

实验结果

研究问题

• RQ1 E(3)-等变深度学习模型能否在保持完整旋转对称性和自旋-轨道耦合对称性的前提下，准确表示 DFT 哈密顿量？
• RQ2 与依赖局部坐标变换或忽略自旋自由度的先前方法相比，E(3)-等变框架的性能如何？
• RQ3 在小超胞（如 4×4）上进行训练的模型，能在多大程度上泛化到预测大超胞（>10⁴ 个原子）的电子结构？
• RQ4 显式建模自旋-轨道耦合对拓扑材料中预测精度和对称性保持的影响如何？
• RQ5 该框架能否在保持高计算效率的同时实现亚毫电子伏特（sub-meV）的能级预测精度？

主要发现

• DeepH-E3 模型在所有测试材料（包括石墨烯、MoS₂ 和铋族 chalcogenides）中均实现了亚毫电子伏特（sub-meV）的平均绝对误差（MAE）能级预测。
• 该方法可实现对超过 10⁴ 个原子的超胞的精确电子结构计算，证明了其在高通量材料筛选中的可行性。
• 通过将自旋和轨道自由度在旋转下显式视为耦合系统，模型保持了精确的 E(3) 等变性，包括自旋-轨道耦合。
• 在小超胞（如 4×4 石墨烯）上进行训练，可准确预测更大体系，证实了模型在训练尺寸之外的泛化能力。
• 在强自旋-轨道耦合体系（如 Bi₂Se₃ 和 Bi₂Te₃）中，该框架在准确性和对称性保持方面均优于现有方法。
• 该模型在多种材料上表现稳健，多数测试案例的 MAE 低于 0.5 meV，证实了其在哈密顿量表示方面的最先进精度。