[论文解读] Measuring transferability issues in machine-learning force fields: The example of Gold-Iron interactions with linearized potentials

Magali Benoit, Jonathan Amodeo+4 more|arXiv (Cornell University)|Dec 23, 2019

Machine Learning in Materials Science参考文献 63被引用 21

一句话总结

本文提出一种基于LassoLars回归的线性化机器学习势（MLIP），用于模拟Au-Fe相互作用，表明潜在复杂度的提升可提高训练精度，但会降低可转移性。该方法实现了复杂度可控的快速、可扩展MLIP构建，揭示了拟合训练数据与准确预测未训练构型之间存在关键权衡。

ABSTRACT

Machine-learning force fields have been increasingly employed in order to extend the possibility of current first-principles calculations. However, the transferability of the obtained potential can not always be guaranteed in situations that are outside the original database. To study such limitation, we examined the very difficult case of the interactions in gold-iron nanoparticles. For the machine-learning potential, we employed a linearized formulation that is parameterized using a penalizing regression scheme which allows us to control the complexity of the obtained potential. We showed that while having a more complex potential allows for a better agreement with the training database, it can also lead to overfitting issues and a lower accuracy in untrained systems.

研究动机与目标

• 研究复杂、不互溶金属体系（如Au-Fe纳米粒子）中机器学习力场的可转移性限制。
• 开发一种可扩展的线性化MLIP框架，实现对势函数复杂度的系统性控制。
• 量化在训练数据上拟合精度与在未训练构型上预测性能之间的权衡。
• 评估LassoLars回归在选择MLIP中物理相关描述符函数方面的有效性。

提出的方法

• 采用惩罚回归参数化的通用解析形式构建线性化机器学习势。
• 使用LassoLars算法执行稀疏回归，实现自动特征选择并控制模型复杂度。
• 描述符函数包括两体（2B）、三体（3B）和多体（NB）项，参数多样，源自Lennard-Jones及类似函数。
• 使用C++代码为每个原子构型生成描述符矩阵，通过OpenMP并行化以提高效率。
• 基于Python的处理流程将矩阵拼接，使用scikit-learn应用LassoLars拟合，并输出LAMMPS兼容的输入文件。
• 最终MLIP通过LAMMPS的hybrid/overlay成对样式组合2B、3B和NB贡献。

实验结果

研究问题

• RQ1 在Au-Fe体系中，增加机器学习势的复杂度如何影响其在未训练构型上的可转移性？
• RQ2 LassoLars回归能否有效识别并仅保留最相关的描述符函数，以实现精确的势函数构建？
• RQ3 对训练数据库的过拟合在多大程度上会降低在未见原子环境中的预测精度？
• RQ4 线性化势框架如何实现复杂度可调的MLIP的快速、可扩展开发？
• RQ5 该MLIP方法在训练误差与可转移性之间的定量权衡关系如何？

主要发现

• LassoLars方法在测试体系中成功识别并仅保留了原始Lennard-Jones相互作用参数，其余所有系数均被置零，而Ridge和标准Lasso则未能实现此效果。
• 使用并行C++代码，64原子结构的完整描述符矩阵（含2B、3B、NB）在约3分钟内生成。
• 单个描述符类型的LassoLars拟合耗时不足20秒，三种类型合并拟合时间低于2分钟。
• 该方法在训练数据库上实现了高精度，但复杂度增加导致过拟合，可转移性降低至未训练体系。
• 研究证实，尽管更高复杂度可提升训练拟合度，但会损害可转移性，凸显了MLIP开发中的关键设计权衡。
• 该框架实现了复杂度可控的MLIP的快速、可扩展构建，适用于高通量筛选和实时优化。