[論文レビュー] Deep Density: circumventing the Kohn-Sham equations via symmetry preserving neural networks

Leonardo Zepeda-Núñez, Yixiao Chen+4 more|arXiv (Cornell University)|Nov 27, 2019

Machine Learning in Materials Science参考文献 41被引用数 13

ひとこと要約

本稿では、Kohn-Sham方程式を回避する対称性を保つニューラルネットワーク、Deep Densityを提案する。原子配置から電子密度を直接学習することで、局所的かつ対称的な原子クラスタからの寄与に密度を分解し、3次元系（水、アルミニウムなど）において線形スケーリングと2.5%未満のℓ²誤差（水：最大512分子、アルミニウム：最大256原子）を達成。絶縁体、金属、混合性質系のあらゆる系にわたり、最小限の訓練データで汎用性と精度を示す。

ABSTRACT

The recently developed Deep Potential [Phys. Rev. Lett. 120, 143001, 2018] is a powerful method to represent general inter-atomic potentials using deep neural networks. The success of Deep Potential rests on the proper treatment of locality and symmetry properties of each component of the network. In this paper, we leverage its network structure to effectively represent the mapping from the atomic configuration to the electron density in Kohn-Sham density function theory (KS-DFT). By directly targeting at the self-consistent electron density, we demonstrate that the adapted network architecture, called the Deep Density, can effectively represent the electron density as the linear combination of contributions from many local clusters. The network is constructed to satisfy the translation, rotation, and permutation symmetries, and is designed to be transferable to different system sizes. We demonstrate that using a relatively small number of training snapshots, Deep Density achieves excellent performance for one-dimensional insulating and metallic systems, as well as systems with mixed insulating and metallic characters. We also demonstrate its performance for real three-dimensional systems, including small organic molecules, as well as extended systems such as water (up to $512$ molecules) and aluminum (up to $256$ atoms).

研究の動機と目的

• Kohn-Sham密度汎関数理論における自己無撞着な電子密度を、Kohn-Sham方程式を解くことなく直接予測する機械学習手法の開発。
• 深層学習と対称性不変アーキテクチャを活用することで、従来のDFTの立方スケーリングおよび基底関数依存性を克服すること。
• 少数の訓練スナップショットで、絶縁体、金属、混合性質系を含む、系のサイズや物質種にわたる汎用性を実現すること。
• 局所性と対称性を活用することで評価コストを線形スケーリングに抑え、大規模系における効率的予測を可能にすること。
• 水クラスターやアルミニウムなどの実際の3次元系に適用可能であり、系のサイズ変動に対して高い精度と頑健性を示すこと。

提案手法

• 電子密度は、各原子とその近隣原子からの局所的寄与の線形結合として構築され、それぞれが対称性を保つ深層ニューラルネットワークでモデル化される。
• 各局所的成分は、近隣原子の並び替え、回転、並進に対して不変であり、物理的整合性と汎用性を保証する。
• ネットワークは、原子配置から電子密度への写像を点単位で学習し、基底関数への射影を回避することで、任意のグリッド上で直接評価可能となる。
• アーキテクチャはDeep Potentialから派生させ、局所的化学的環境を効果的に符号化するためのメッセージパッシング設計を再利用する。
• 全原子からの寄与を独立に評価して総和することで、全電子密度を計算し、並列性の高い計算が可能となる。
• モデルは、少量の構造スナップショット上でDFTで計算された電子密度を端末から端末へと学習し、密度場におけるℓ²およびℓ¹ノルムで損失を最小化する。

実験結果

リサーチクエスチョン

• RQ1 少数のDFTスナップショットで学習した深層ニューラルネットワークが、多様な1次元および3次元系にわたって自己無撞着な電子密度を高精度に予測できるか？
• RQ2 スクリーニング効果の影響を受ける金属系において、従来絶縁体で有効であった局所化原理がどの程度有効に保たれるか？
• RQ3 対称性を保つニューラルネットワークアーキテクチャが、大規模系においても高い精度を維持しながら評価コストを線形スケーリングに抑えられるか？
• RQ4 モデルの性能および一般化能力は、系のサイズや物質種（絶縁体対金属対混合）に応じてどのようにスケーリングするか？
• RQ5 Kohn-Sham方程式の解法を回避しても精度を損なわず、学習データより大きな系へも汎用可能か？

主な発見

• Deep Densityは、最大256原子の3次元アルミニウム系および最大512分子の水系において、相対ℓ²誤差2.5%未満を達成し、強力な汎用性を示した。
• 3×3×3のアルミニウムスーパーセルの4つの訓練スナップショットでの学習で、相対ℓ²およびℓ¹誤差はそれぞれ0.5%および1.2%にまで低下し、高いデータ効率を示した。
• 本手法は、絶縁体、金属、混合性質を示す1次元系の電子密度を高精度に捉えており、金属的領域でも局所化原理の有効性を検証した。
• 水系では、最大512分子にわたる系のサイズ変動に対しても、ℓ²誤差2.5%未満を維持し、頑健性とスケーラビリティを示した。
• 金属系（アルミニウムなど）では、空間的に拡散する誤差が見られ、価電子が半コア電子よりも誤差に寄与している可能性を示唆した。
• 本手法により、系のサイズに比例する線形スケーリングで点単位の電子密度評価が可能であり、GPUを用いた並列実装によりさらに高速化が可能である。