[论文解读] Predicting thermoelectric properties from crystal graphs and material descriptors - first application for functional materials

Léo Laugier, Daniil Bash+6 more|arXiv (Cornell University)|Nov 15, 2018

Machine Learning in Materials Science被引用 3

一句话总结

本研究提出一种机器学习框架，利用晶体图（CGCNN）、全连接神经网络（FCNN）和XGBoost，结合晶体和原子描述符来预测热电功率因子。FCNN通过使用DFT启发的材料描述符，其表现优于CGCNN和XGBoost，表明物理启发的特征对于准确预测功能材料性能至关重要。

ABSTRACT

We introduce the use of Crystal Graph Convolutional Neural Networks (CGCNN), Fully Connected Neural Networks (FCNN) and XGBoost to predict thermoelectric properties. The dataset for the CGCNN is independent of Density Functional Theory (DFT) and only relies on the crystal and atomic information, while that for the FCNN is based on a rich attribute list mined from Materialsproject.org. The results show that the optimized FCNN is three layer deep and is able to predict the scattering-time independent thermoelectric powerfactor much better than the CGCNN (or XGBoost), suggesting that bonding and density of states descriptors informed from materials science knowledge obtained partially from DFT are vital to predict functional properties.

研究动机与目标

• 通过用计算成本较低的机器学习方法替代计算昂贵的DFT和玻尔兹曼输运计算，加速功能热电材料的发现。
• 探究基于晶体图的模型（CGCNN）是否能在不依赖DFT输入的情况下准确预测热电功率因子。
• 评估使用来自Materials Project和Matminer提取的丰富材料描述符的FCNN和XGBoost的性能。
• 确定DFT启发的描述符是否显著提升预测精度，相较于基础的晶体和原子特征。
• 为未来基于数据驱动的热电材料设计奠定基础，即利用理论数据集训练的机器学习模型。

提出的方法

• 仅使用晶体结构和原子信息，未引入DFT输入，训练了晶体图卷积神经网络（CGCNN）。
• 基于从Materials Project通过Matminer提取的28个材料描述符（如成键、原子和电子性质），构建了全连接神经网络（FCNN）。
• 采用XGBoost作为梯度提升基线模型，与深度学习方法进行比较。
• 使用DFT + 玻尔兹曼输运方程（BTE）计算的功率因子作为模型训练和评估的真实标签。
• 通过贝叶斯超参数搜索优化FCNN和XGBoost的超参数，损失函数为均方误差（MSE），优化器为RMSProp。
• 在由7,230种化合物在不同掺杂浓度、温度和晶体方向下生成的2,819,682个数据点的测试集上，使用平均绝对误差（MAE）评估模型性能。

实验结果

研究问题

• RQ1 仅基于晶体和原子结构信息训练的CGCNN模型，能否在无DFT输入的情况下准确预测热电功率因子？
• RQ2 在预测DFT+BTE功率因子时，使用丰富材料描述符的FCNN相较于CGCNN和XGBoost的性能如何？
• RQ3 与基础结构特征相比，DFT启发的描述符（如成键、态密度）在多大程度上提升了预测精度？
• RQ4 引入物理启发的描述符是否显著增强了模型在预测功能材料性能方面的能力？
• RQ5 在理论数据集上训练的机器学习模型，能否作为昂贵的DFT和BTE计算在热电材料筛选中的可靠替代方案？

主要发现

• 经过超参数优化的三全连接层FCNN模型，在预测热电功率因子方面实现了最高的预测精度。
• FCNN在性能上优于CGCNN和XGBoost，表明成键和态密度等DFT启发的描述符对准确预测至关重要。
• 仅依赖晶体图信息而无DFT输入的CGCNN表现劣于FCNN和XGBoost，表明仅靠结构特征不足以实现高性能预测。
• 表现最佳的FCNN在三个隐藏层中分别使用ReLU、tanh和sigmoid激活函数，神经元数量分别为50、41和41，并采用Robust标准化和RMSProp优化器。
• 该模型的平均绝对误差（MAE）低于以往仅预测塞贝克系数的研究，且在不同温度范围内精度提升达30%至46%。
• 尽管数据集存在局限性（如不稳定多型相和不现实化合物），FCNN仍展现出强大的泛化能力，凸显了丰富描述符在机器学习驱动材料发现中的价值。