[论文解读] Hyperactive Learning (HAL) for Data-Driven Interatomic Potentials

van der Oord, Matthias Sachs+3 more|arXiv (Cornell University)|Oct 9, 2022

Machine Learning in Materials Science被引用 9

一句话总结

本文提出Hyperactive Learning（HAL）框架，通过利用贝叶斯回归估计的不确定性，将分子动力学模拟偏向高不确定性构型，从而加速数据驱动的原子间势能训练。HAL将AlSi10合金的训练数据减少至仅88个构型，并实现了对熔点和聚乙二醇（PEG）密度的高精度预测，且所需训练数据极少，显著优于标准采样方法。

ABSTRACT

Data-driven interatomic potentials have emerged as a powerful class of surrogate models for {\it ab initio} potential energy surfaces that are able to reliably predict macroscopic properties with experimental accuracy. In generating accurate and transferable potentials the most time-consuming and arguably most important task is generating the training set, which still requires significant expert user input. To accelerate this process, this work presents ext{\it hyperactive learning} (HAL), a framework for formulating an accelerated sampling algorithm specifically for the task of training database generation. The key idea is to start from a physically motivated sampler (e.g., molecular dynamics) and add a biasing term that drives the system towards high uncertainty and thus to unseen training configurations. Building on this framework, general protocols for building training databases for alloys and polymers leveraging the HAL framework will be presented. For alloys, ACE potentials for AlSi10 are created by fitting to a minimal HAL-generated database containing 88 configurations (32 atoms each) with fast evaluation times of <100 microsecond/atom/cpu-core. These potentials are demonstrated to predict the melting temperature with excellent accuracy. For polymers, a HAL database is built using ACE, able to determine the density of a long polyethylene glycol (PEG) polymer formed of 200 monomer units with experimental accuracy by only fitting to small isolated PEG polymers with sizes ranging from 2 to 32.

研究动机与目标

• 解决数据驱动原子间势能训练数据库生成过程中计算成本高且依赖专家经验的问题。
• 克服标准分子动力学采样方法的局限性，该方法对高能态（如缺陷和过渡态）采样不足。
• 开发一种系统性的、基于主动学习的框架，加速发现用于模型训练的高信息量构型。
• 在复杂体系（如合金和聚合物）中，仅用极少训练数据即可实现准确且可迁移的原子间势能。

提出的方法

• 在分子动力学中引入一个偏置项，使系统向由贝叶斯回归估计的高预测不确定性构型移动。
• 利用高斯过程回归或贝叶斯岭回归的不确定性估计，引导探索势能面的未探索区域。
• 采用原子簇展开（ACE）框架作为构建原子间势能的模型架构。
• 应用自动相关性确定（ARD）以剔除无关基函数，提升模型泛化能力。
• 使用证据最大化法优化贝叶斯模型中的超参数，确保稳健的不确定性量化。
• 实施反馈循环，仅当不确定性超过阈值时才将新构型加入训练集，从而实现高效的数据收集。

实验结果

研究问题

• RQ1 基于不确定性的采样能否显著减少训练准确原子间势能所需的从头计算次数？
• RQ2 将分子动力学模拟偏向高不确定性区域在多大程度上改善了对缺陷和过渡态等关键构型的覆盖？
• RQ3 HAL训练的模型在仅用极少训练数据的情况下，对复杂体系（如聚合物和合金）的泛化能力如何？
• RQ4 HAL能否在仅用一个小而主动筛选的数据库下，实现熔点和密度等宏观性质的实验精度预测？
• RQ5 将贝叶斯不确定性与分子动力学模拟相结合，在多大程度上提升了势能训练的效率和可靠性？

主要发现

• HAL生成的数据库仅使用88个构型即实现了AlSi10合金熔点预测的实验精度，且每个原子每核的评估时间低于100 μs。
• HAL框架通过仅拟合小而孤立的PEG片段（2–32个单体），成功实现了对200个单体聚乙二醇（PEG）链密度的高精度预测。
• 基于不确定性的偏置策略减少了对广泛随机采样的依赖，显著加速了对高能态等关键构型的发现。
• 结合自动相关性确定（ARD）的贝叶斯岭回归生成了稀疏且泛化能力强的模型，在准确性和数据效率方面均优于标准正则化回归。
• 该框架证明，贝叶斯模型中的不确定性量化可有效用于引导主动采样，避免陷入非物理能量极小值，从而提升模型稳定性。
• HAL框架显著降低了训练数据生成的时间和计算成本，同时在多种材料类别中保持或提升了模型精度。