[論文レビュー] Physical machine learning outperforms "human learning" in Quantum Chemistry

Anton V. Sinitskiy, Vijay S. Pande|arXiv (Cornell University)|Aug 1, 2019

Machine Learning in Materials Science参考文献 121被引用数 4

ひとこと要約

この論文は、高レベルの量子化学の精度とニューラルネットワークの効率性を組み合わせた、物理的制約を施した機械学習フレームワークを提案する。著者らは、ホーエンベルク＝コーンの定理を一般化することで、電子密度およびエネルギーの正確な式を導出し、深層ニューラルネットワークが分子の性質を予測できるようにする。平均絶対誤差がわずか0.9 kcal/molにまで低下し、DFTおよび既存の機械学習手法を上回る精度を達成しながら、計算コストを低く保つ。

ABSTRACT

Two types of approaches to modeling molecular systems have demonstrated high practical efficiency. Density functional theory (DFT), the most widely used quantum chemical method, is a physical approach predicting energies and electron densities of molecules. Recently, numerous papers on machine learning (ML) of molecular properties have also been published. ML models greatly outperform DFT in terms of computational costs, and may even reach comparable accuracy, but they are missing physicality - a direct link to Quantum Physics - which limits their applicability. Here, we propose an approach that combines the strong sides of DFT and ML, namely, physicality and low computational cost. By generalizing the famous Hohenberg-Kohn theorems, we derive general equations for exact electron densities and energies that can naturally guide applications of ML in Quantum Chemistry. Based on these equations, we build a deep neural network that can compute electron densities and energies of a wide range of organic molecules not only much faster, but also closer to exact physical values than current versions of DFT. In particular, we reached a mean absolute error in energies of molecules with up to eight non-hydrogen atoms as low as 0.9 kcal/mol relative to CCSD(T) values, noticeably lower than those of DFT (down to ~3 kcal/mol on the same set of molecules) and ML (down to ~1.5 kcal/mol) methods. A simultaneous improvement in the accuracy of predictions of electron densities and energies suggests that the proposed approach describes the physics of molecules better than DFT functionals developed by "human learning" earlier. Thus, physics-based ML offers exciting opportunities for modeling, with high-theory-level quantum chemical accuracy, of much larger molecular systems than currently possible.

研究の動機と目的

• 量子力学の物理的厳密性を保ちつつ、計算効率性を達成する機械学習手法の開発。
• 従来のDFTおよび機械学習手法の限界を乗り越えるために、ニューラルネットワークのアーキテクチャに基本的な量子力学的原理を埋め込むこと。
• 物理的ガイド付き機械学習が、分子のエネルギーおよび電子密度予測において、人間が最適化したDFT汎関数を上回ることを実証すること。
• 従来の量子化学的手法では取り扱いが困難だった大規模分子系の高精度モデリングを可能にすること。

提案手法

• 著者らは、ホーエンベルク＝コーンの定理を一般化し、外部ポテンシャルを変数とする電子密度およびエネルギーの正確な解析的表現を導出する。
• これらの正確な式を用いて、分子の構造および原子核の電荷から直接、電子密度およびエネルギーを予測する深層ニューラルネットワークを学習させる。
• 導出された正確な式を通じて物理的整合性を強制する損失関数を用いて、エンドツーエンドでネットワークを訓練する。
• CCSD(T)を基準として、最大8個の非水素原子を有する多様な有機分子に対してモデルを評価する。
• アーキテクチャは分子の対称性に不変であり、量子力学の変分原理を尊重するように設計されている。
• ネットワークの誘導的バイアスに基本的な物理法則を埋め込むことで、経験的データフィッティングに依存しない。

実験結果

リサーチクエスチョン

• RQ1 正確な量子力学的原理に基づいて学習された機械学習モデルは、人間が最適化したDFT汎関数を上回る精度で分子エネルギーを予測できるか？
• RQ2 物理的制約を施したニューラルネットワークは、標準的な機械学習およびDFTと比較して、電子密度およびエネルギー予測の精度をどの程度向上できるか？
• RQ3 深層学習モデルは、大規模分子に対してもCCSD(T)に近い精度を達成しながら、計算効率を維持できるか？
• RQ4 ニューラルネットワークのアーキテクチャにホーエンベルク＝コーンの定理を埋め込むことで、一般化性能および物理的整合性が向上するか？

主な発見

• 提案された物理的制約を施した機械学習モデルは、分子エネルギー予測において平均絶対誤差が0.9 kcal/molにまで低下し、DFT（約3 kcal/mol）および既存の機械学習手法（約1.5 kcal/mol）を著しく上回る精度を達成した。
• モデルは同時に電子密度およびエネルギー予測の両方で精度を向上させ、人間が学習したDFT汎関数よりも物理的記述が一貫していることを示している。
• この手法は、伝統的な高水準量子化学的手法と比較して、桁違いに高速である一方で、CCSD(T)基準値に非常に近い精度に達している。
• ニューラルネットワークは多様な有機分子に対して優れた一般化性能を示し、学習データを超えた堅牢性と転送可能性を示している。
• 物理的ガイド付き機械学習は、モデルアーキテクチャに正確な物理法則を埋め込むことで、量子化学における「人間の学習」を凌駆する可能性を示している。