[论文解读] Global descriptors of a water molecule for machine learning of potential energy surfaces

Fabio E. A. Albertani, Alex J. W. Thom|arXiv (Cornell University)|Jan 10, 2023

Machine Learning in Materials ScienceMaterials Science被引用 3

一句话总结

本文研究了全局分子描述符如何影响高斯过程（GP）回归在水分子势能面（PES）机器学习中的表现，重点关注置换不变性。结果表明，通过氢原子置换对训练数据进行对称化处理，可显著提升非不变特征空间中GP的性能，当使用非局部正则模式系数时，平均绝对误差（MAE）从7.5 mHa降低至1.9 mHa。

ABSTRACT

Machine learning of multi-dimensional potential energy surfaces, from purely ab initio datasets, has seen substantial progress in the past years. Gaussian processes, a popular regression method, have been very successful at producing realistic potential energy surfaces from sparse datasets allowing to reduce the computational cost of highly accurate models. However, there are many choices one has to take in the design of the kernel and the feature space which can substantially change the performance and the characteristic of the model. In this study we explore different Gaussian processes set ups and, more specifically, how the permutational invariance of the target surface is controlled through the feature space selection.

研究动机与目标

• 评估特征空间选择对高斯过程回归在势能面建模中影响。
• 研究在水等分子中至关重要的置换不变性在GP模型中如何最优实现。
• 比较不同全局描述符（原子间距离、正则模式、非局部正则模式）在学习对称PES时的性能表现。
• 评估通过置换增强实现的数据对称化在不显式引入特征空间不变性时对GP泛化能力的提升效果。
• 考察对数边际似然最大化与超参数优化在稀疏数据集下GP模型选择中的作用。

提出的方法

• 使用Matérn和RBF核的高斯过程回归，基于从头计算数据对水分子的PES进行建模。
• 采用基于原子间距离（MID）、正则模式系数（NM）和非局部正则模式系数（NLNM）的全局描述符作为输入特征。
• 通过置换氢原子实现数据增强，生成即使在特征空间缺乏显式置换不变性时也保持对称的训练集。
• 通过将模式系数替换为其带符号的置换（例如，[v1, v2, -v3]）对特征表示进行对称化，以强制实现不变性。
• 通过最大化对数边际似然（LML）优化GP超参数，分析多个局部极小值以避免次优解。
• 使用测试集上的平均绝对误差（MAE）评估模型性能，并通过等值面图可视化潜在PES。

实验结果

研究问题

• RQ1 全局描述符（MID、NM、NLNM）的选择如何影响GP回归在水分子PES上的表现？
• RQ2 通过氢原子置换实现的数据增强是否能提升在非置换不变特征空间中训练的GP模型性能？
• RQ3 对特征表示进行对称化处理（例如，[v1, v2, -v3]）对学习到的PES对称性与精度有何影响？
• RQ4 当超参数空间中存在多个局部极小值时，LML最大化如何影响模型选择？
• RQ5 与未经对称化的数据相比，对称化训练数据在稀疏数据集上能多大程度提升泛化能力？

主要发现

• 通过氢原子置换对训练数据进行对称化处理，当使用非局部正则模式（NLNM）特征空间时，MAE从7.5 mHa降低至1.9 mHa。
• 在对称化NLNM数据上训练的潜在GP表面恢复了PES应有的置换对称性，表现为对称的等值面图。
• 即使在非不变特征空间中，对称化数据仍使模型比未经对称化的对应模型更准确且更具对称性。
• NLNM特征空间优于局部NM空间，其MAE为1.9 mHa，而后者为7.5 mHa，表明对PES复杂性的表征能力得到提升。
• LML最大化揭示了多个局部极小值，表明仅依赖贝叶斯评分可能无法可靠预测模型性能，需引入其他评估指标。
• 本研究证实，特征空间设计与数据增强在PES建模中对GP成功至关重要，尤其在数据稀疏条件下。