[論文レビュー] SE(3)-equivariant prediction of molecular wavefunctions and electronic densities

Oliver T. Unke, Mihail Bogojeski+4 more|arXiv (Cornell University)|Jun 4, 2021

Machine Learning in Materials Science参考文献 29被引用数 25

ひとこと要約

PhiSNetはSE(3)-等変対応波動函数と電子密度を学習し、観測量をエンドツーエンドで導出します。ab initio法に対して大幅な精度向上と substantial speedup を実現し、高次レベルの理論への転移学習に成功しました。

ABSTRACT

Machine learning has enabled the prediction of quantum chemical properties with high accuracy and efficiency, allowing to bypass computationally costly ab initio calculations. Instead of training on a fixed set of properties, more recent approaches attempt to learn the electronic wavefunction (or density) as a central quantity of atomistic systems, from which all other observables can be derived. This is complicated by the fact that wavefunctions transform non-trivially under molecular rotations, which makes them a challenging prediction target. To solve this issue, we introduce general SE(3)-equivariant operations and building blocks for constructing deep learning architectures for geometric point cloud data and apply them to reconstruct wavefunctions of atomistic systems with unprecedented accuracy. Our model achieves speedups of over three orders of magnitude compared to ab initio methods and reduces prediction errors by up to two orders of magnitude compared to the previous state-of-the-art. This accuracy makes it possible to derive properties such as energies and forces directly from the wavefunction in an end-to-end manner. We demonstrate the potential of our approach in a transfer learning application, where a model trained on low accuracy reference wavefunctions implicitly learns to correct for electronic many-body interactions from observables computed at a higher level of theory. Such machine-learned wavefunction surrogates pave the way towards novel semi-empirical methods, offering resolution at an electronic level while drastically decreasing computational cost. Additionally, the predicted wavefunctions can serve as initial guess in conventional ab initio methods, decreasing the number of iterations required to arrive at a converged solution, thus leading to significant speedups without any loss of accuracy or robustness.

研究の動機と目的

• 観測量を必要に応じて導出するために、分子波動函数（固定特性ではなく）を予測する動機づけ。
• 幾何点群のためのSE(3)-等変性ニューラルビルディングブロックを開発し、ハミルトニアンを予測する。
• 回転の完全な等変性を持つハミルトニアンを出力する PhiSNet を構築。
• 先行研究最先端手法と比べた精度と効率の向上を実証。
• 低レベルから高レベルの量子化学データへの転移学習経路を示す。

提案手法

• 点群に対するSE(3)-等変性演算を深層学習に導入。
• 等変性原子表現からハミルトニアンブロックを出力する PhiSNet を構築。
• テンソル積展開と Clebsch-Gordan 係数を用いてハミルトニアンブロックの等変性を保証。
• ブロックごとに組み立てて、ハミルトニアンの対角ブロックと非対角ブロックの双方を予測。
• DFT (PBE/def2-SVP) の KS/重なり行列で訓練し、SchNOrb と比較。
• HF由来モデルを CCSD(T) 観測量へと微調整して転移学習を実証。

実験結果

リサーチクエスチョン

• RQ1 SE(3)-等変性ニューラルアーキテクチャは分子波動函数と電子密度を正確に予測できるか？
• RQ2 ハミルトニアンを直接予測することは、エネルギーと力のエンドツーエンド導出を高精度で可能にするか？
• RQ3 以前の最先端（SchNOrb）およびab initio法と比べて、どの程度の精度と速度の改善が得られるか？
• RQ4 低レベルの理論で事前訓練されたモデルを高レベルの電子相関効果を捉えるよう微調整できるか？
• RQ5 予測された波動函数は、従来の量子化学計算を加速する有効な初期推定として機能するか？

主な発見

• PhiSNetはSchNOrbと比較してK, S, ε, ψの予測誤差を複数の分子で最大二桁のオーダーの低減を実現。
• PhiSNetはab initio DFT計算に対して3桁超の速度向上を提供。
• モデルは正確なSE(3)等変性を保持し、非等変性の counterparts よりパラメータ数が少なく収束が速い。
• 転移学習によりHFレベルのモデルをCCSD(T)レベルの観測量へ修正するハミルトニアン補正を学習して実現。
• 予測された波動関数はエネルギーと力のエンドツーエンド導出を可能にし、従来の量子化学計算を加速する有効な初期推定として機能する。