[论文解读] Inorganic Materials Synthesis Planning with Literature-Trained Neural Networks

Edward Kim, Zach Jensen+9 more|arXiv (Cornell University)|Dec 31, 2018

Machine Learning in Materials Science参考文献 2被引用 10

一句话总结

本文提出了一种基于文献训练的神经网络框架，结合自然语言处理与条件变分自编码器（CVAE），从科学文本中预测无机材料的合成路线。该模型在250万篇材料科学论文上进行训练，能够为钙钛矿材料生成前驱体和反应步骤序列，成功筛选出83种 ABO₃ 化合物中的19种可合成化合物，证明其能够学习超越热力学规律的合成趋势。

ABSTRACT

Leveraging new data sources is a key step in accelerating the pace of materials design and discovery. To complement the strides in synthesis planning driven by historical, experimental, and computed data, we present an automated method for connecting scientific literature to synthesis insights. Starting from natural language text, we apply word embeddings from language models, which are fed into a named entity recognition model, upon which a conditional variational autoencoder is trained to generate syntheses for arbitrary materials. We show the potential of this technique by predicting precursors for two perovskite materials, using only training data published over a decade prior to their first reported syntheses. We demonstrate that the model learns representations of materials corresponding to synthesis-related properties, and that the model's behavior complements existing thermodynamic knowledge. Finally, we apply the model to perform synthesizability screening for proposed novel perovskite compounds.

研究动机与目标

• 开发一种通用方法，从非结构化科学文献中提取合成见解，而无需依赖结构化数据库。
• 通过利用材料科学期刊文章中蕴藏的海量未开发知识，弥补自动化合成规划的空白。
• 构建一种可迁移的、无监督的框架，从文本中学习合成模式，并推广至新物质。
• 以文献信息补充第一性原理热力学筛选，提供基于文献的可合成性预测。
• 开源关键的NLP工具与标注数据集，推动材料合成领域研究的集体进展。

提出的方法

• 该方法使用在250万篇材料科学期刊文章上训练的ELMo和FastText词嵌入，实现上下文相关的文本表征。
• 命名实体识别（NER）模型利用这些嵌入从科学文本中识别合成目标、前驱体和反应步骤。
• 条件变分自编码器（CVAE）被训练为以目标材料为条件，建模合成路线作为前驱体与反应步骤的序列。
• CVAE学习合成路线的潜在表征，编码物理与化学趋势，而无需显式领域知识。
• 通过从学习到的潜在空间采样生成合成预测，同时对前驱体化学式与反应步骤序列进行联合优化。
• 该框架通过为每种化合物生成十种合成路线并筛选商业可购前驱体，实现可合成性筛选。

实验结果

研究问题

• RQ1 仅基于科学文献训练的神经网络能否预测在训练过程中未见过的无机材料的可行合成路线？
• RQ2 模型对合成路线的潜在表征与已知化学原理及实验趋势的相关性如何？
• RQ3 在仅使用1990年以前文献进行训练的情况下，该模型在新物质（如钙钛矿）上的泛化能力如何？
• RQ4 模型的潜在空间能否捕捉到合成路线之间的有意义相似性，而不仅限于结构或组成相似性？
• RQ5 与基于第一性原理的热力学筛选相比，该文献训练模型在识别可合成材料方面表现如何？

主要发现

• 该模型仅基于首次报道合成前的文献，成功预测了SrZrO₃与BaAl₂O₄的前驱体组合。
• CVAE学习到的合成路线潜在表征反映了化学趋势，例如在固相反应中对碳酸盐前驱体的偏好。
• 基于潜在合成路线的相似性度量，即使在晶体结构不同的材料之间，也能识别出有意义的关联。
• 在83种提出的ABO₃钙钛矿化合物中，仅有19种通过CVAE合成筛选（基于商业可购前驱体），证明了其对可合成候选物的有效过滤。
• 尽管未显式训练于此类规则，模型的预测与已知合成实践一致，例如在钙钛矿合成中使用碳酸盐。
• 开源的NER标注与嵌入可支持未来更精细的合成预测研究，包括溶剂与温度的选择。