[論文レビュー] Gaussian Processes with Spectral Delta kernel for higher accurate Potential Energy surfaces for large molecules

Rodrigo A. Vargas–Hernández, Jake R. Gardner|arXiv (Cornell University)|Sep 28, 2021

Calibration and Measurement Techniques被引用数 4

ひとこと要約

本稿では、ボッヘナーの定理を活用して、高次元ポテンシャルエネルギーサーフェス（PES）の補間精度を向上させる、新しいスペクトルデルタカーネル（k_SD）を提案する。GPUアクセラレーションを活用したGPyTorchおよびKEOPSを用い、対数尤度を最適化することで、ベンゼンやアスピリンといった大きな分子において、たった15,000〜20,000の学習点で0.06 kcal/mol未満のグローバル誤差を達成し、GDML や DTNN といった最先端のモデルを上回る性能を発揮する。

ABSTRACT

The interpolation of high-dimensional potential energy surfaces (PESs) is commonly done with physically-inspired deep-neural network models. In this work, we illustrate that Gaussian Processes (GPs) are also capable of interpolating high-dimensional complex physical systems. The accuracy of GPs depends on the robustness of the kernel function, and a boost in the accuracy is achieved by linearly combining kernel functions. In this work, we proposed an alternative route by parametrizing the kernel function through Bochners' theorem. We interpolated the PES of various chemical systems achieving a global accuracy of < 0.06 kcal/mol for Benzene, Malonaldehyde, Ethanol, and protonated Imidazole dimer using only 15 000 training points. Additionally, for Aspirin, we achieved a global error of 0.063 kcal/mol with 20 000 points. Given these results, we believe this kernel function is system-agnostic and could allow GPs to tackle a wider variety of high-dimensional physical systems.

研究の動機と目的

• 高次元ポテンシャルエネルギーサーフェス（PES）補間における、より精度が高く、頑健なカーネル関数の開発を目的とする。
• 複雑な分子系においてスケーラビリティと精度に制限を受ける従来のカーネル結合手法の課題を克服することを目的とする。
• ニュストローム近似などの低ランク近似を用いずに、最新のディープラーニングライブラリとGPUアクセラレーションを活用して、完全なガウス過程の学習を可能にすることを目的とする。
• スペクトルデルタカーネルを備えたガウス過程が、ディープニューラルネットワークや勾配ドメインモデルと同等またはそれ以上の最先端の精度を達成できることを示すこと。
• 量子化学におけるPESモデリングに、システムに依存せず、スケーラブルかつ不確実性を定量的に評価可能なフレームワークを確立すること。

提案手法

• ボッヘナーの定理に基づき導出されたスペクトルデルタカーネル（k_SD）を提案し、スペクトル密度関数を用いてカーネルをパrameter化する。
• カーネルハイパーパrameter（特にスペクトル幅 |δ|）の最適化に、対数尤度を目的関数として用いる。
• GPyTorch および KEOPS ライブラリを活用し、ニュストローム近似を回避するGPU上の効率的で完全なガウス過程学習を実現する。
• ベンゼン（61D）、アスピリン（57D）、プロトン化イミダゾールジマー（51D）など、多様な分子の高次元PESにカーネルを適用する。
• 大規模なPESを断片に分割し、個別にガウス過程を学習することで、特に高次元系においてグローバルな精度を向上させる。
• GDML や DTNN とのベンチマーク比較を通じて、平均絶対誤差（MAE）および平均二乗誤差（RMSE）を用いて性能を検証する。

実験結果

リサーチクエスチョン

• RQ1 ボッヘナーの定理に基づくカーネル関数は、高次元ポテンシャルエネルギーサーフェスの補間において、ガウス過程の精度を顕著に向上させることができるか？
• RQ2 スペクトルデルタカーネルは、標準的なカーネル結合手法や勾配ドメイン機械学習（GDML）と比較して、予測精度およびデータ効率の面で優れているか？
• RQ3 PES補間における最小誤差を達成するための、学習点数とスペクトル幅 |δ| の最適な関係は何か？
• RQ4 50次元以上の大きな分子系（例：50+次元）において、低ランク共分散近似を用いずに、完全なガウス過程回帰を効率的に学習できるか？
• RQ5 スペクトルデルタカーネルは、高次元性や複雑なポテンシャルエネルギーランドスケープを有する多様な分子系に、どの程度一般化可能か？

主な発見

• スペクトルデルタカーネル（k_SD）は、ベンゼン、マルナロアルデヒド、エタノール、プロトン化イミダゾールジマーにおいて、15,000の学習点でグローバルRMSEが0.06 kcal/molに達した。
• アスピリン（57D）では、20,000の学習点でグローバルMAEが0.063 kcal/molに達し、GDML や DTNN を上回った。
• 18,000の学習点と |δ| = 5,000 の条件下で、マルナロアルデヒドのMAEは3.05 meVに達し、GDML（3.3 meV）より0.35 meV高い精度を示した。
• ベンゼンでは、|δ| ≥ 1,000 かつ N = 10,000 の条件下でMAE < 1 meV（約0.023 kcal/mol）を達成し、0.06 kcal/mol未満の精度を実現した。
• 最適な |δ| は [N/3, N/2] の範囲にあり、5,000以上の学習点を有する系では、|δ| を5,000以上に増加させることで精度が向上した。
• GPyTorch および KEOPS をGPUアクセラレーションと組み合わせることで、ニュストローム近似を用いずに、50次元以上のPESにおいても正確な完全なガウス過程学習が可能になった。