[论文解读] Atomistic graph networks for experimental materials property prediction

Tian Xie, Victor Bapst+6 more|arXiv (Cornell University)|Mar 25, 2021

Machine Learning in Materials Science参考文献 2被引用 6

一句话总结

该论文提出原子图网络（AGNs），通过大规模DFT模拟学习可迁移的材料表征，以提升实验形成能的预测性能。通过在模拟结构上训练图神经网络以预测形成能，并在有限的实验数据上进行微调，该方法在数据效率方面表现优异，尤其在具有挑战性的泛化设置下达到最先进性能。

ABSTRACT

Machine Learning (ML) has the potential to accelerate discovery of new materials and shed light on useful properties of existing materials. A key difficulty when applying ML in Materials Science is that experimental datasets of material properties tend to be small. In this work we show how material descriptors can be learned from the structures present in large scale datasets of material simulations; and how these descriptors can be used to improve the prediction of an experimental property, the energy of formation of a solid. The material descriptors are learned by training a Graph Neural Network to regress simulated formation energies from a material's atomistic structure. Using these learned features for experimental property predictions outperforms existing methods that are based solely on chemical composition. Moreover, we find that the advantage of our approach increases as the generalization requirements of the task are made more stringent, for example when limiting the amount of training data or when generalizing to unseen chemical spaces.

研究动机与目标

• 通过利用大规模DFT模拟数据，解决材料性质预测中实验数据集较小的挑战。
• 通过将原子级结构信息融入机器学习模型，克服仅基于成分的模型的局限性。
• 开发一种迁移学习框架，将模拟形成能的知识迁移至实验形成能预测任务。
• 通过提升对未见化学空间的泛化能力以及减少训练数据需求，改善数据效率。
• 构建一个连续且可微的材料结构表征空间，支持对未知化合物的插值预测。

提出的方法

• 训练图神经网络（GNN）主干网络，从原子级结构预测DFT计算的形成能，学习可迁移的结构表征。
• 采用双头架构：一个头回归模拟形成的能量，另一个头在实验数据上使用共享的GNN主干进行微调。
• 在表征空间中应用类似凸包的插值方案，以预测在模拟数据中无稳定匹配的化合物的实验性质。
• 通过图网络引入结构归纳偏置，将原子位置和原子间距离编码为边特征。
• 在使用3D向量边特征时，通过随机3D旋转进行数据增强，以提升旋转不变性。
• 通过在保留的验证集上进行交叉验证，优化超参数，包括插值权重α。

实验结果

研究问题

• RQ1 在DFT模拟数据上训练的图神经网络能否学习到一种可迁移的结构表征，从而提升实验形成能的预测性能？
• RQ2 与仅基于成分的模型相比，引入原子级结构信息对预测性能有何影响？
• RQ3 所提出的方法是否能提升数据效率，尤其是在训练数据有限或需泛化至未见化学空间时？
• RQ4 当实验化合物在模拟数据集中缺乏稳定匹配时，性能如何退化？
• RQ5 图网络中的哪些组件（节点、边、全局成分）对预测性能贡献最大？

主要发现

• 所提出的原子图网络（AGN）在实验形成能预测任务上实现了新的最先进水平，平均绝对误差为0.24 eV/atom。
• 该方法显著优于仅基于成分的模型以及不使用结构信息的基线GNN，在数据稀缺和分布外泛化设置下表现尤为突出。
• 当预测在模拟数据集中无稳定匹配的化合物时，性能仅轻微下降，表明对结构新颖性具有鲁棒性。
• 误差与化合物的形成能及反参与率（衡量结构邻域复杂度的指标）相对独立，仅当晶体结构完全未知时（ipr ≈ 1），误差才显著增加。
• 消融实验表明，原子序数特征比全局成分或边距离更为关键；使用3D向量边特征并结合旋转增强并未提升性能，可能由于模拟性能与泛化性能之间存在权衡。
• 最优插值权重α被确定为1，表明当与学习到的表征平衡时，基于凸包的插值方案最为有效。