[论文解读] Improved uncertainty quantification for Gaussian process regression based interatomic potentials

Albert P. Bartók, James. R. Kermode|arXiv (Cornell University)|Jun 17, 2022

Machine Learning in Materials Science被引用 4

一句话总结

本文提出使用留一法交叉验证（LOO-CV）似然而非边际似然来优化基于高斯过程回归（GPR）的原子间势能函数的超参数，显著提升了不确定性量化（UQ）的可靠性。LOO-CV方法减少了对预测误差的过度估计——在Ar三体和双体系统中得到验证——其误差估计比标准GPR或启发式调优方法更准确、更稳健。

ABSTRACT

The error estimation capability of machine learning interatomic potentials (MLIPs) based on probabilistic learning methods such as Gaussian process regression (GPR) is currently under-exploited, because of the tendancy of the predicted errors to overestimate the true error. We present approaches based on maximising either the marginal likelihood or an alternative likelihood constructed using leave-one-out cross validation to provide improved error estimates for interatomic potentials based on GPR. We benchmarked these approaches on models representing the Ar trimer, showing significant improvements in the robustness of the predicted error estimates.

研究动机与目标

• 解决机器学习原子间势能函数（MLIPs）中不确定性量化（UQ）的低效利用问题，特别是高斯过程回归（GPR）对预测误差的过度估计问题。
• 克服边际似然最大化方法的局限性，该方法常导致GPR基MLIPs中出现过度自信或不准确的误差估计。
• 通过使用LOO-CV似然优化，为高斯近似势能（GAP）中的启发式超参数选择提供更稳健的替代方案。
• 提升多尺度材料模拟中感兴趣量（QoIs）预测误差条的可靠性，实现跨尺度更优的不确定性传播。
• 证明基于LOO-CV的优化方法在小型、从头算基准系统上，相比标准GPR或启发式方法，能产生更准确、更真实的不确定性估计。

提出的方法

• 通过最大化留一法交叉验证（LOO-CV）似然来优化基于GPR的原子间势能函数的超参数，该方法在不假设模型正确性的前提下估计预测性能。
• 在二体和三体Ar系统中，将LOO-CV优化与标准边际似然最大化及启发式超参数选择（GAP启发式方法）进行对比。
• 使用显式基函数建模短程排斥力和长程色散力，通过BFGS结合自动微分优化核超参数（如长度尺度ℓ、信号方差δ）。
• 使用均方根误差（RMSE）评估模型性能，并将预测误差方差与交叉验证得到的真实误差进行比较。
• 将不确定性贡献分解为参数性和非参数性两部分，分析超参数选择对误差结构的影响。
• 采用Pareto平滑重要性抽样（PSIS）作为未来扩展至大规模数据集和稀疏GP场景的可扩展替代方案。

实验结果

研究问题

• RQ1 LOO-CV似然优化能否在基于GPR的原子间势能函数中产生比边际似然最大化更可靠的不确定性估计？
• RQ2 与启发式超参数调优相比，LOO-CV方法在误差估计的准确性和鲁棒性方面表现如何？
• RQ3 不同超参数选择（如δ、ℓ）对二体和三体项中不确定性的分解有何影响？
• RQ4 LOO-CV优化是否能降低GPR对远离训练数据区域预测误差的过度估计倾向？
• RQ5 该LOO-CV方法能否扩展至大规模数据集及复杂多体描述符（如SOAP或ACE）以应用于实际材料模拟？

主要发现

• 与边际似然最大化和启发式超参数选择相比，LOO-CV方法显著提升了预测误差估计的可靠性。
• 尽管边际似然优化实现了最低的RMSE（1.7 meV/atom），但在某些区域仍过度估计了真实误差，表明不确定性校准较差。
• LOO-CV方法产生了最准确的误差估计，其RMSE为2.4 meV/atom，但预测误差与真实误差之间的相关性显著更高。
• LOO-CV使二体和三体项的权重分配更加均衡，δ₂ = 1429 eV，δ₃ = 0.0006 eV，表明对二体相互作用的强调更强。
• LOO-CV模型的长度尺度参数在三体描述符各分量间分布更均匀（ℓ₁ = 239 Å，ℓ₂ = 329 Ų，ℓ₃ = 344 Å），表明泛化能力更强。
• 显式基函数方法在长距离处显著贡献了不确定性，且在LOO-CV情况下该贡献更大，表明对分布外行为的建模更优。