[论文解读] An Atomistic Machine Learning Package for Surface Science and Catalysis

Martin Hangaard Hansen, José Antonio Garrido Torres+5 more|arXiv (Cornell University)|Apr 1, 2019

Machine Learning in Materials Science参考文献 41被引用 29

一句话总结

该论文介绍了CatLearn，一个专为表面科学和多相催化设计的机器学习软件包，通过高斯过程和正则化线性模型自动完成特征工程、描述符选择和模型训练。结果表明，具备不确定性的高斯过程回归优于线性模型，且在特征扩展前使用SIS预筛选无法提升准确性，凸显了在催化材料发现中自动化、无直觉依赖的模型构建的价值。

ABSTRACT

We present work flows and a software module for machine learning model building in surface science and heterogeneous catalysis. This includes fingerprinting atomic structures from 3D structure and/or connectivity information, it includes descriptor selection methods and benchmarks, and it includes active learning frameworks for atomic structure optimization, acceleration of screening studies and for exploration of the structure space of nano particles, which are all atomic structure problems relevant for surface science and heterogeneous catalysis. Our overall goal is to provide a repository to ease machine learning model building for catalysis, to advance the models beyond the chemical intuition of the user and to increase autonomy for exploration of chemical space.

研究动机与目标

• 通过提供系统化、自动化的流程，简化表面科学和催化领域中的机器学习模型构建。
• 通过数据驱动的模型开发，实现超越现有化学直觉的化学空间自主探索。
• 通过高斯过程中的不确定性估计，提升催化信息学中的预测准确性。
• 在原子尺度数据集上对多种描述符选择与模型训练策略进行基准测试与比较。
• 开发一个可扩展、可扩展的软件仓库（CatLearn v1.0.0），面向催化领域社区，采用GNU GPL 3.0许可证发布。

提出的方法

• CatLearn使用原子模拟环境（ASE）导入并处理原子结构，实现基于三维几何与连接性的自动化特征提取。
• 采用各向异性的平方指数核实现高斯过程回归（GPR），支持不确定性估计和导数预测（如受力）。
• 通过敏感性剔除与SIS（SIS）方法进行描述符选择，基于扩展特征集上的皮尔逊、斯皮尔曼与肯德尔相关性。
• 使用正则化线性模型（LASSO、Ridge）作为基准，并在高维特征空间中用于预筛选。
• 通过利用GPR的不确定性估计，实现主动学习工作流，指导纳米颗粒结构空间的原子结构优化与探索。
• 框架支持组合式特征扩展（如 $x_i \cdot x_j$，$\log(x)$，$\sqrt{x}$），随后进行降维，以识别非线性相关性。

实验结果

研究问题

• RQ1 自动化描述符选择与模型训练工作流是否能在催化信息学中实现超越人类直觉的预测准确性？
• RQ2 具备不确定性估计的高斯过程回归与线性模型相比，在预测表面吸附能时表现如何？
• RQ3 在原子尺度数据集上，组合式特征扩展后接SIS预筛选是否能提升模型性能？
• RQ4 在表面科学应用中，特征间的互相关性对模型泛化能力与不确定性估计有何影响？
• RQ5 基于不确定性估计的主动学习框架是否能加速稳定表面结构与催化材料的发现？

主要发现

• 采用自动相关性确定的高斯过程回归（GPR）在原始特征集上实现了优于线性模型的预测性能，平均绝对误差（MAE）约为0.14 eV。
• 组合式特征扩展将特征空间扩展至44,548维，但后续的SIS预筛选导致重要特征丢失，降低模型准确性。
• GPR模型的均方根误差（RMSE）与平均绝对误差（MAE）在特征扩展与SIS后均恶化，MAE从0.14 eV上升至0.18 eV，表明SIS在此情境下无法有效保留预测能力。
• 敏感性剔除在降低特征间互相关性的同时保持了良好的预测得分，证明其在描述符选择中的有效性。
• 正则化线性模型（LASSO、Ridge）作为基准和快速描述符筛选工具表现良好，但无法在相同数据上超越GPR的性能。
• CatLearn通过利用GPR的不确定性估计，实现了主动学习工作流，促进了化学空间的高效探索与原子结构的优化。