[论文解读] A regression-based feature selection study of the Curie temperature of transition-metal rare-earth compounds: prediction and understanding

Hieu‐Chi Dam, Viet-Cuong Nguyen+5 more|arXiv (Cornell University)|May 2, 2017

Machine Learning in Materials Science被引用 3

一句话总结

本研究采用高斯核岭回归（GKR）方法，利用28个物理和结构描述符预测过渡金属-稀土化合物的居里温度（$T_{\rm C}$）。关键发现是，使用四种描述符——稀土浓度（$C_R$）、$J_{4f}(g_J-1)$、$S_{3d}$ 和 $IP_T$）的模型实现了 $R^2 = 0.940$，揭示了在单纯相关性之外具有物理意义的 $T_{\rm C}$ 控制机制。

ABSTRACT

The Curie temperature ($T_C$) of binary alloy compounds consisting of 3$d$ transition-metal and 4$f$ rare-earth elements is analyzed by a machine learning technique. We first demonstrate that nonlinear regression can accurately reproduce $T_C$ of the compounds. The prediction accuracy for $T_C$ is maximized when five to ten descriptors are selected, with the rare-earth concentration being the most relevant. We then discuss an attempt to utilize a regression-based model selection technique to learn the relation between the descriptors and the actuation mechanism of the corresponding physical phenomenon, i.e., $T_C$ in the present case.

研究动机与目标

• 开发一种用于预测二元过渡金属-稀土化合物居里温度（$T_{\rm C}$）的高精度机器学习模型。
• 通过基于回归的特征选择方法，识别控制 $T_{\rm C}$ 的最相关物理描述符。
• 通过将所选描述符与潜在磁性机制关联，弥合预测性机器学习与物理理解之间的鸿沟。
• 通过系统的逐项增加测试，评估各种原子、电子和结构描述符的预测能力。
• 建立一个具有物理可解释性的 $T_{\rm C}$ 模型，推动从经验相关性向机制性洞察的转变。

提出的方法

• 采用高斯核岭回归（GKR）建模28个描述符与 $T_{\rm C}$ 之间的非线性关系。
• 使用来自Pauling文件和AtomWork数据库的108种二元化合物数据集，包含实验测得的 $T_{\rm C}$ 值和结构数据。
• 将28个描述符分类为三类：过渡金属的原子性质（$\bm{\bar{T}}$）、稀土元素的原子性质（$\bm{\bar{R}}$）和结构特征（$\bm{\bar{S}}$）。
• 应用基于回归的模型选择技术，特别是“逐项增加”测试，以评估每个描述符对预测精度的增量贡献。
• 使用决定系数（$R^2$）评估模型性能，以排序描述符的相关性并识别最优子集。
• 根据预测准确性和物理合理性选择描述符，优先选择与磁交换机制（如自旋-轨道耦合和 $3d$ 电子相互作用）相关的描述符。

实验结果

研究问题

• RQ1 在过渡金属-稀土化合物中，哪一组物理和结构描述符能实现最高的 $T_{\rm C}$ 预测精度？
• RQ2 包含特定描述符（尤其是与 $4f$ 电子构型相关的描述符）如何影响GKR模型的预测性能？
• RQ3 基于回归的特征选择能否揭示不仅具有预测能力，而且在解释 $T_{\rm C}$ 机制方面具有物理意义的描述符？
• RQ4 稀土浓度（$C_R$）与电子描述符（如 $J_{4f}(g_J-1)$ 和 $S_{3d}$）相比，在决定 $T_{\rm C}$ 时的相对重要性如何？
• RQ5 机器学习模型在多大程度上能够从经验预测过渡到提供磁有序温度物理因果关系的洞察？

主要发现

• 当使用十个描述符时，GKR模型达到最大 $R^2 = 0.957$，预测精度在五至十个描述符范围内达到峰值。
• 稀土浓度（$C_R$）是单一描述符中最重要的，单独使用时贡献 $R^2 = 0.940$。
• 描述符 $J_{4f}(g_J-1)$（表示 $4f$ 自旋在总角动量上的投影）比单独使用 $S_{4f}$ 或 $J_{4f}$ 更具相关性，与 $C_R$ 联合使用时实现 $R^2 = 0.950$。
• 对于过渡金属，$S_{3d}$ 显著优于 $J_{3d}$，$S_{3d}$ 与 $IP_T$ 联合使用时实现 $R^2 = 0.950$，优于单独使用 $Z_T$。
• 最优描述符组合——$C_R$、$J_{4f}(g_J-1)$、$S_{3d}$ 和 $IP_T$——实现了 $R^2 = 0.940$，展现出高预测能力的同时保持了物理可解释性。
• 逐项增加测试证实，$J_{4f}(g_J-1)$ 和 $S_{3d}$ 是与 $4f$–$3d$ 交换相互作用相关的物理上有意义的描述符，支持其在控制 $T_{\rm C}$ 中的作用。