[论文解读] Gaussian Processes with Spectral Delta kernel for higher accurate Potential Energy surfaces for large molecules

Rodrigo A. Vargas–Hernández, Jake R. Gardner|arXiv (Cornell University)|Sep 28, 2021

Calibration and Measurement Techniques被引用 4

一句话总结

该论文提出了一种新颖的谱delta核（k_SD）用于高斯过程（GPs），利用Bochners定理提升高维势能面（PES）插值的精度。通过使用对数边际似然优化核函数，并结合GPU加速的GPyTorch与KEOPS，该方法在苯和阿司匹林等大分子上仅使用15,000–20,000个训练点即实现了小于0.06 kcal/mol的全局误差，优于最先进的模型如GDML和DTNN。

ABSTRACT

The interpolation of high-dimensional potential energy surfaces (PESs) is commonly done with physically-inspired deep-neural network models. In this work, we illustrate that Gaussian Processes (GPs) are also capable of interpolating high-dimensional complex physical systems. The accuracy of GPs depends on the robustness of the kernel function, and a boost in the accuracy is achieved by linearly combining kernel functions. In this work, we proposed an alternative route by parametrizing the kernel function through Bochners' theorem. We interpolated the PES of various chemical systems achieving a global accuracy of < 0.06 kcal/mol for Benzene, Malonaldehyde, Ethanol, and protonated Imidazole dimer using only 15 000 training points. Additionally, for Aspirin, we achieved a global error of 0.063 kcal/mol with 20 000 points. Given these results, we believe this kernel function is system-agnostic and could allow GPs to tackle a wider variety of high-dimensional physical systems.

研究动机与目标

• 开发一种更准确且鲁棒的核函数，用于高维势能面（PES）插值中的高斯过程。
• 克服传统核函数组合方法在复杂分子体系中可扩展性和精度方面的局限性。
• 通过利用现代深度学习库和GPU加速，实现无需低秩近似（如Nyström）的完整GP训练。
• 证明使用谱delta核的高斯过程可实现与深度神经网络和梯度域模型相当或更优的最先进精度。
• 建立一种与体系无关、可扩展且具备不确定性量化能力的PES建模框架，用于量子化学研究。

提出的方法

• 基于Bochners定理提出一种谱delta核（k_SD），通过谱密度函数参数化核函数。
• 使用对数边际似然作为目标函数，优化核函数超参数，包括谱宽度|δ|。
• 利用GPyTorch与KEOPS库在GPU上实现高效的完整GP训练，避免Nyström近似。
• 将该核应用于包括苯（61维）、阿司匹林（57维）和质子化咪唑二聚体（51维）在内的高维PES。
• 将大型PES分割为片段，并训练独立的GP以提升全局精度，尤其适用于高维体系。
• 通过与GDML和DTNN基准对比，使用平均绝对误差（MAE）和均方根误差（RMSE）验证性能。

实验结果

研究问题

• RQ1 基于Bochners定理推导的核函数是否能显著提升高斯过程在高维势能面插值中的精度？
• RQ2 谱delta核在预测精度和数据效率方面与标准核函数组合及梯度域机器学习（GDML）相比如何？
• RQ3 在PES插值中，训练点数量与谱宽度|δ|之间存在何种最优关系，可实现最小误差？
• RQ4 是否能够高效地在大型分子体系（如50维以上）上进行无需低秩协方差近似的完整高斯过程回归？
• RQ5 谱delta核在包括高维和复杂势能面的多种分子体系中，其泛化能力如何？

主要发现

• 谱delta核（k_SD）在仅使用15,000个训练点的情况下，对苯、丙二醛、乙醇和质子化咪唑二聚体的全局RMSE达到0.06 kcal/mol。
• 对于阿司匹林（57D），该方法在使用20,000个训练点时实现了0.063 kcal/mol的全局MAE，优于GDML和DTNN。
• 当使用18,000个训练点且|δ| = 5,000时，该方法在丙二醛上实现了3.05 meV的MAE，比GDML（3.3 meV）更精确0.35 meV。
• 对于苯，当|δ| ≥ 1,000且N = 10,000时，MAE < 1 meV（约0.023 kcal/mol），表明实现了亚kcal/mol精度。
• 最优|δ|位于[N/3, N/2]范围内，当训练点数超过5,000时，|δ|增大可进一步提升精度。
• 该方法可在无需Nyström近似的情况下，利用GPyTorch与KEOPS结合GPU加速，实现对50维以上PES的高精度完整GP训练。