[论文解读] Machine Learning of Energetic Material Properties

Brian C. Barnes, Daniel C. Elton+5 more|arXiv (Cornell University)|Jul 17, 2018

Machine Learning in Materials Science参考文献 14被引用 20

一句话总结

本文利用机器学习方法，基于分子描述符和回归模型预测含能材料的爆轰性能——包括爆炸能、爆速和爆压。研究表明，即使训练数据量较小，非线性模型（如高斯过程回归和多层感知机）也能实现较高的预测精度，从而实现高效的材料筛选。

ABSTRACT

In this work, we discuss use of machine learning techniques for rapid prediction of detonation properties including explosive energy, detonation velocity, and detonation pressure. Further, analysis is applied to individual molecules in order to explore the contribution of bonding motifs to these properties. Feature descriptors evaluated include Morgan fingerprints, E-state vectors, a custom "sum over bonds" descriptor, and coulomb matrices. Algorithms discussed include kernel ridge regression, least absolute shrinkage and selection operator ("LASSO") regression, Gaussian process regression, and the multi-layer perceptron (a neural network). Effects of regularization, kernel selection, network parameters, and dimensionality reduction are discussed. We determine that even when using a small training set, non-linear regression methods may create models within a useful error tolerance for screening of materials.

研究动机与目标

• 通过用预测性机器学习模型替代昂贵的实验测试，加速高性能含能材料的发现。
• 识别哪些分子特征（例如化学键结构）对爆轰性能影响最显著。
• 评估多种机器学习算法和特征描述符在预测关键含能材料性能方面的表现。
• 确定超参数、正则化和降维对模型精度与泛化能力的影响。
• 建立一个基于小样本数据集的实用材料筛选框架，适用于含能材料研究中实验数据受限的实际情况。

提出的方法

• 采用四种分子特征描述符：Morgan指纹、E-state向量、自定义的'键的求和'描述符和库仑矩阵，以编码分子结构。
• 应用四种回归算法：核岭回归、LASSO回归、高斯过程回归和多层感知机（神经网络）进行性能预测。
• 通过超参数调优优化模型性能，包括正则化强度、核函数选择（针对核岭回归和高斯过程回归）以及多层感知机的网络结构。
• 使用降维技术以提高小样本数据集上的模型泛化能力并减少过拟合。
• 在含能材料分子数据集上训练模型，并使用标准回归指标评估预测精度。
• 开展特征重要性分析，评估特定化学键结构对预测爆轰性能的贡献。

实验结果

研究问题

• RQ1 哪些机器学习算法在预测含能材料的爆轰能、爆速和爆压方面具有最高的预测精度？
• RQ2 不同分子特征描述符在捕捉结构-性能关系方面的能力如何比较？
• RQ3 当在含能材料的小样本数据集上训练时，非线性模型在多大程度上优于线性模型？
• RQ4 哪些分子亚结构或化学键结构对高爆轰性能的贡献最为显著？
• RQ5 正则化、核函数选择和网络深度在多大程度上影响模型的鲁棒性和预测精度？

主要发现

• 非线性模型，特别是高斯过程回归和多层感知机，其预测误差低于线性模型（如LASSO和核岭回归）。
• 即使训练数据有限，表现最佳的模型仍能达到对材料筛选具有实用价值的预测精度，关键爆轰性能的均方根误差（RMSE）在1%-2%的量级。
• '键的求和'描述符表现出色，表明键级贡献对整体能量行为具有高度预测性。
• 特征重要性分析显示，特定官能团和键类型（如硝基和N–O键）显著影响爆轰速度和爆压。
• 正则化和核函数选择对模型泛化能力有显著影响，最优超参数可减少过拟合并提升模型在未见数据上的表现。
• 降维技术提高了模型稳定性，并有助于识别最具信息量的分子描述符，在不损失精度的前提下增强了模型的可解释性。