[论文解读] Compressing physical properties of atomic species for improving predictive chemistry

John E. Herr, Kevin J. Koh+2 more|arXiv (Cornell University)|Oct 31, 2018

Machine Learning in Materials Science参考文献 78被引用 29

一句话总结

本文提出了'元素模式'——一种通过自编码器从基本物理性质中提取的、压缩的低维原子种类表征。该方法通过编码周期性趋势和原子相似性，提升了化学领域机器学习预测的性能，在生成能预测中优于标准特征表示，并实现了更高精度与泛化能力的跨元素迁移学习。

ABSTRACT

The answers to many unsolved problems lie in the intractable chemical space of molecules and materials. Machine learning techniques are rapidly growing in popularity as a way to compress and explore chemical space efficiently. One of the most important aspects of machine learning techniques is representation through the feature vector, which should contain the most important descriptors necessary to make accurate predictions, not least of which is the atomic species in the molecule or material. In this work we introduce a compressed representation of physical properties for atomic species we call the elemental modes. The elemental modes provide an excellent representation by capturing many of the nuances of the periodic table and the similarity of atomic species. We apply the elemental modes to several different tasks for machine learning algorithms and show that they enable us to make improvements to these tasks even beyond simply achieving higher accuracy predictions.

研究动机与目标

• 解决在预测化学的机器学习模型中表征原子种类的挑战。
• 开发一种可泛化的低维表征，以捕捉周期性趋势和原子相似性。
• 通过更有效地编码原子种类，提升机器学习在材料性质预测中的表现。
• 通过共享连续表征实现跨元素的迁移学习。
• 通过从基本物理性质而非特定材料数据集中的原子环境推导表征，避免数据集偏差。

提出的方法

• 在83种元素（Z ≤ 83，不包括f区元素）的10项基本物理性质（如原子序数、电负性、电离能）上训练自编码器。
• 编码器为每种元素生成一个6维潜在向量，称为'元素模式'，该向量在压缩性和重建保真度方面进行了优化。
• 表征基于原子的内在性质，避免了来自特定材料数据集的偏差。
• 对元素模式进行主成分分析，显示其与周期表趋势高度一致，例如碱金属和卤素形成明显的聚类。
• 将元素模式用作前馈神经网络的输入特征，用于预测萤石矿材料的生成能。
• 通过连续共享的嵌入空间，使相似元素能够共享信息，从而实现迁移学习。

实验结果

研究问题

• RQ1 压缩的、连续的原子种类表征能否提升预测化学中机器学习的性能？
• RQ2 元素模式表征是否比离散或标量特征更有效地捕捉有意义的周期性趋势和原子相似性？
• RQ3 元素模式能否在材料性质预测中实现更优的泛化能力和跨原子种类的迁移学习？
• RQ4 与现有方法（如原子序数、族/周期、学习得到的嵌入）相比，元素模式表征在准确性和鲁棒性方面表现如何？
• RQ5 该方法在生成能预测之外的其他化学任务中，其泛化能力在多大程度上成立？

主要发现

• 元素模式表征在预测萤石矿材料生成能时，实现了0.086 eV/atom的平均绝对误差（MAE），优于先前方法。
• 该方法通过连续嵌入空间中相似原子共享信息，实现了迁移学习，表现出更优的泛化能力。
• 对元素模式进行主成分分析，清晰显示出按周期表族和周期的可解释聚类，证实该方法捕捉到了已知的化学趋势。
• 6维的元素模式表征在压缩性和物理性质重建方面优于高维或标量替代方案。
• 该方法在萤石矿数据集之外也具有泛化能力，在预测部分电荷和键能等其他任务中也取得了成功。
• 基于自编码器的方法通过依赖基本物理性质而非原子环境统计量，避免了数据集偏差。