[論文レビュー] Using differentiable programming to obtain an energy and density-optimized exchange-correlation functional

Sebastian Dick, Mariví Fernández-Serra|arXiv (Cornell University)|Jun 8, 2021

Machine Learning in Materials Science参考文献 44被引用数 4

ひとこと要約

本稿では、エネルギー誤差と密度誤差を同時に最小化することで、ニューラルネットワークベースのメタGGA交換相関関数を最適化する微分可能プログラミングに基づくxc-diffを提案する。正確な物理的制約を課し、JAXを通じた自動微分を活用することで、非経験的関数の中で最先端の精度を達成し、SCAN や B3LYP といった既存手法をエネルギー予測および密度予測の両面で上回る。また、関数の順位付けに用いる新しいエネルギー-密度誤差指標を導入している。

ABSTRACT

Using an end-to-end differentiable implementation of the Kohn-Sham self-consistent field equations, we obtain an accurate neural network-based exchange and correlation (XC) functional of the electronic density. The functional is optimized using information on both energy and density while exact constraints are enforced through an appropriate neural network architecture. We evaluate our model against different families of XC approximations and show that, for non-empirical functionals, there is a strong linear correlation between energy and density errors. We use this correlation to define a novel XC functional quality metric that includes both energy and density errors, leading to a new, improved way to rank different approximations. Judged by this metric, our machine-learned functional significantly outperforms those within the same rung of approximations.

研究の動機と目的

• エネルギーと電子密度の両方の精度を同時に最適化する、高精度で非経験的な交換相関関数を開発すること。
• Kohn-Sham DFTにおける非線形な密度応答の課題を克服し、エンドツーエンドの微分可能プログラミングにより勾配ベースの最適化を可能にすること。
• ニューラルネットワークアーキテクチャ内に、局所的Lieb-Oxford境界といった正確な物理的制約を組み込むことで、一般化性能と物理的一致性を向上させること。
• エネルギー誤差と密度誤差を組み合わせた新しい複合指標$\mathcal{E}\mathcal{D}_{|n|}$を導入し、関数の順位付けを改善すること。
• 物理的制約を課したデータ駆動型最適化が、伝統的な非経験的関数（例：SCAN）でさえも、メタGGAフレームワーク内でも上回ることを示すこと。

提案手法

• JAXを用いて、Kohn-Sham自己無撞着場方程式のエンドツーエンド微分可能実装を構築し、DFT解法プロセス全体にわたる自動微分を可能にする。
• 高精度のペアワイズ・カップルドクラスター基準との比較で、WTMAD-2によるエネルギー誤差と$\varepsilon_{|n|}$による密度誤差の両方を含む損失関数を用いて、ニューラルネットワークベースのメタGGA関数を学習する。
• 物理的制約（例：局所的Lieb-Oxford境界）を直接ニューラルネットワークアーキテクチャに埋め込み、物理的一致性を確保するとともに一般化性能を向上させる。
• 非経験的関数において観察されたエネルギー誤差と密度誤差の線形相関に基づき、新たな複合指標$\mathcal{E}\mathcal{D}_{|n|}$を導出する。この指標の勾配$\gamma = 1084.87\ \text{kcal mol}^{-1}$は、基準データに対する回帰から得られた。
• 計算コストを抑えるために、主に線形系を訓練セットに用い、より複雑な分子への一般化はテストにより検証する。
• 電子密度応答からの勾配情報を活用することで、データ効率を向上させるとともに、精密な最適化を実現する。

実験結果

リサーチクエスチョン

• RQ1 微分可能プログラミングアプローチにより、DFT交換相関関数におけるエネルギー誤差と密度誤差の同時最適化が可能になるか？
• RQ2 Lieb-Oxford境界のような正確な物理的制約を課すことにより、機械学習された関数の一般化性能と精度が向上するか？
• RQ3 非経験的関数において、エネルギー誤差と密度誤差の間に一貫した線形関係が存在するか？ また、その関係を用いてより強固な関数順位付け指標を定義できるか？
• RQ4 データ駆動型の非経験的関数は、PBE0 や SCAN といった既存のメタGGA関数を、エネルギー予測および密度予測の両面で上回ることができるか？
• RQ5 JAXによる自動微分の使用は、関数最適化における学習効率と精度をどの程度向上させるか？

主な発見

• xc-diff関数は、G2/97データセットにおいて、全テスト済みメタGGA関数の中で最小の密度誤差を達成し、SCANを上回り、PBE0と同等の性能を示した。
• PBE0と比較して、全WTMAD-2エネルギー誤差を9%低減した一方で、密度精度も優れており、新しい$\mathcal{E}\mathcal{D}_{|n|}$指標においてB3LYPを上回った。
• 非経験的関数において、WTMAD-2エネルギー誤差と密度誤差の間には強い線形相関（$R^2 = 0.87$）が観察され、複合指標の有効性が裏付けられた。
• 関数の密度誤差は、線形トレンドよりも低く、非経験的メタGGAsの性能の限界を上回っていることが示された。
• ニューラルネットワークアーキテクチャに局所的Lieb-Oxford境界を組み込むことで、モデルの一般化性能と物理的一致性が顕著に向上した。
• 微分可能プログラミングが、エネルギー応答および密度応答からの勾配を活用することで、非線形な複雑なDFT関数の有効な最適化を可能にすることが示された。