[論文レビュー] DeepDFT: Neural Message Passing Network for Accurate Charge Density Prediction

Peter Bjørn Jørgensen, Arghya Bhowmik|arXiv (Cornell University)|Nov 4, 2020

Industrial Vision Systems and Defect Detection被引用数 13

ひとこと要約

DeepDFTは、神経メッセージパッシングを備えたグラフニューラルネットワークを用いて、分子、固体、液体の全範囲にわたり高い精度と線形スケーラビリティで電子電荷密度を予測する。大規模なDFTデータで訓練された本モデルは、QM9で平均絶対誤差0.36%未満を達成し、標準DFT関数の不確実性を上回る性能を発揮する。

ABSTRACT

We introduce DeepDFT, a deep learning model for predicting the electronic charge density around atoms, the fundamental variable in electronic structure simulations from which all ground state properties can be calculated. The model is formulated as neural message passing on a graph, consisting of interacting atom vertices and special query point vertices for which the charge density is predicted. The accuracy and scalability of the model are demonstrated for molecules, solids and liquids. The trained model achieves lower average prediction errors than the observed variations in charge density obtained from density functional theory simulations using different exchange correlation functionals.

研究の動機と目的

• 分子、固体、液体を含む多様な材料において、電子電荷密度ρ(r)をスケーラブルかつ高精度に予測する機械学習モデルの開発。
• 従来のKohn-Sham DFTのO(n³)計算コストを克服し、10⁵原子以上の系に対しても線形スケーリングの予測を可能にする。
• クエリポイントの位置に依存しない転送可能な原子表現を学習することで、化学的環境にわたる一般化を実現する。
• DFTにおける異なる交換相関関数の変動によって生じる電荷密度の変動よりも低い予測精度を達成する。
• 非専門家が使いやすい事前学習済みモデルを公開することで、高精度な電子構造計算へのアクセスを民主化する。

提案手法

• 原子を頂点とし、4 Åのカットオフで定義されるエッジを持つグラフ表現を用い、周期的境界条件を介したメッセージパッシングを可能にする。
• 各クエリポイントに特別なプローブ頂点を導入し、ρ(r)の予測に使用するが、メッセージを送信しない。
• 複数ステップのメッセージパッシングにより原子表現を更新し、微分可能でエンドツーエンドの方法で隣接原子からの情報を集約する。
• SchNetにインspiredされた連続フィルターグラフネットワークを採用し、ガウス型径基数関数を用いて原子間距離を符号化する。
• 2段階の学習プロセスを採用し、まず原子環境を符号化し、次にそれをクエリポイントにおける電荷密度にマッピングする。これにより、複数のクエリ間で表現を再利用可能になる。
• 1台のGPUを用いて2週間、大規模なDFTデータセット上でエンドツーエンドで訓練し、小規模な検証セットでの早期停止を適用する。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、標準DFT関数の不確実性を超える精度で電子電荷密度を予測できるか？
• RQ2 メッセージパッシングを併用したグラフネットワークは、分子、固体、液体の全範囲にわたって線形スケーリングと一般化を達成できるか？
• RQ3 クエリポイントに依存しない原子環境表現を学習することで、クエリ依存モデルに比べて転送性と効率性が向上するか？
• RQ4 訓練データに十分に表現されていないレアまたは特異な構造モチーフに対しても、モデルは一般化できるか？
• RQ5 総エネルギーまたはバンドギャップなどの派生的性質を直接予測するのではなく、まず電荷密度を学習することで、データ効率が向上するか？

主な発見

• QM9テストセットにおいて、DeepDFTは平均絶対誤差0.36%を達成し、8種類の交換相関関数の平均で0.6%と推定されるDFTの不確実性を下回る。
• 本モデルの平均誤差は、原子密度の重ね合わせによる18%の誤差よりも顕著に低く、強力な一般化性能を示している。
• LIB正極材料データセットでは、平均誤差0.10%を達成し、複雑な材料においても高い精度を発揮している。
• エチレンカーボネートデータセットでは、平均誤差0.53%であり、化学的空間のカバレッジが良好なため、外れ値は観察されなかった。
• QM9における外れ値は、訓練データに十分に表現されていないレアな構造的ユニットと関連しており、データ分布への感受性が浮き彫りになっている。
• 本モデルは系のサイズに比例して線形スケーリングを示し、最大10⁵原子の系のシミュレーションに適している。これにより、材料設計分野における新規応用が可能になる。