[论文解读] Deep Density: circumventing the Kohn-Sham equations via symmetry preserving neural networks

Leonardo Zepeda-Núñez, Yixiao Chen+4 more|arXiv (Cornell University)|Nov 27, 2019

Machine Learning in Materials Science参考文献 41被引用 13

一句话总结

该论文提出 Deep Density，一种保持对称性的神经网络，通过直接从原子构型学习电子密度来绕过 Kohn-Sham 方程。通过将密度分解为原子簇的局部对称贡献，该方法实现了线性缩放，并在水（最多 512 个分子）和铝（最多 256 个原子）等 3D 系统上实现了低于 2.5% 的 ℓ² 误差，展示了在绝缘体、金属和混合特性体系中的可转移性和高精度，且仅需极少的训练数据。

ABSTRACT

The recently developed Deep Potential [Phys. Rev. Lett. 120, 143001, 2018] is a powerful method to represent general inter-atomic potentials using deep neural networks. The success of Deep Potential rests on the proper treatment of locality and symmetry properties of each component of the network. In this paper, we leverage its network structure to effectively represent the mapping from the atomic configuration to the electron density in Kohn-Sham density function theory (KS-DFT). By directly targeting at the self-consistent electron density, we demonstrate that the adapted network architecture, called the Deep Density, can effectively represent the electron density as the linear combination of contributions from many local clusters. The network is constructed to satisfy the translation, rotation, and permutation symmetries, and is designed to be transferable to different system sizes. We demonstrate that using a relatively small number of training snapshots, Deep Density achieves excellent performance for one-dimensional insulating and metallic systems, as well as systems with mixed insulating and metallic characters. We also demonstrate its performance for real three-dimensional systems, including small organic molecules, as well as extended systems such as water (up to $512$ molecules) and aluminum (up to $256$ atoms).

研究动机与目标

• 开发一种机器学习方法，直接预测 Kohn-Sham 电子密度泛函理论中的自洽电子密度，而无需求解 Kohn-Sham 方程。
• 通过利用具有对称性不变架构的深度学习，克服传统 DFT 的立方缩放和基组依赖性。
• 在系统尺寸和材料类型（包括绝缘体、金属和混合特性体系）之间实现可转移性，仅使用少量训练快照。
• 通过利用局域性和对称性，实现评估成本的线性缩放，从而实现对大系统的高效预测。
• 在真实 3D 系统（如水团簇和铝）中展示适用性，具有高精度和对系统尺寸变化的鲁棒性。

提出的方法

• 该方法将电子密度构建为每个原子及其邻近原子局部贡献的线性组合，每个局部成分由保持对称性的深度神经网络建模。
• 每个局部成分在邻近原子的平移、旋转和排列下保持不变，确保物理一致性和可转移性。
• 网络以逐点方式学习从原子构型到电子密度的映射，避免基组投影，从而实现在任意网格上的直接评估。
• 该架构源自 Deep Potential，复用其保持对称性的消息传递设计，以有效编码局部化学环境。
• 通过独立计算所有原子的贡献并求和，得到总电子密度，实现可并行计算的极度并行化。
• 模型在少量构型的 DFT 计算电子密度上进行端到端训练，损失通过密度场上的 ℓ² 和 ℓ¹ 范数最小化。

实验结果

研究问题

• RQ1 在少量 DFT 快照上进行训练的深度神经网络，能否在多样化的 1D 和 3D 系统中准确预测自洽电子密度？
• RQ2 由于屏蔽效应，此前在绝缘体中有效的局域化原理在金属体系中在多大程度上仍然成立？
• RQ3 保持对称性的神经网络架构能否在维持高精度的同时实现评估成本的线性缩放，适用于大系统？
• RQ4 模型的性能和泛化能力如何随系统尺寸和材料类型（绝缘体 vs. 金属 vs. 混合）变化？
• RQ5 该方法能否在不牺牲精度的前提下绕过 Kohn-Sham 方程的求解，并可转移至训练数据之外的更大系统？

主要发现

• Deep Density 在最多 256 个原子的 3D 铝系统和最多 512 个分子的水系统中实现了低于 2.5% 的相对 ℓ² 误差，表现出强大的可转移性。
• 仅使用四个 3×3×3 铝超胞的训练快照，模型将相对 ℓ² 和 ℓ¹ 误差分别降低至 0.5% 和 1.2%，表明其具有极高的样本效率。
• 该方法在具有绝缘性、金属性和混合特性的 1D 系统中准确捕捉了电子密度，验证了在金属区域中局域化原理的有效性。
• 对于水系统，模型在最多 512 个分子的系统尺寸范围内保持低于 2.5% 的 ℓ² 误差，表现出鲁棒性和可扩展性。
• 在铝等金属体系中，模型表现出空间上离域的误差，表明价电子比内壳层电子对误差的贡献更大。
• 该方法实现了电子密度的逐点评估，系统尺寸呈线性缩放，并可通过基于 GPU 的极度并行实现进一步加速。