[论文解读] De novo Design of Polymer Electrolytes with High Conductivity using GPT-based and Diffusion-based Generative Models

Zhenze Yang, Weike Ye+4 more|arXiv (Cornell University)|Dec 11, 2023

Machine Learning in Materials Science被引用 6

一句话总结

本研究提出一种基于GPT和扩散模型的从头生成式AI框架，用于设计高电导率聚合物电解质，通过预训练、微调及全原子分子动力学模拟验证，成功生成17种新型聚合物，其离子电导率超过现有数据库记录——部分结果实现此前最佳值的两倍。

ABSTRACT

Solid polymer electrolytes hold significant promise as materials for next-generation batteries due to their superior safety performance, enhanced specific energy, and extended lifespans compared to liquid electrolytes. However, the material's low ionic conductivity impedes its commercialization, and the vast polymer space poses significant challenges for the screening and design. In this study, we assess the capabilities of generative artificial intelligence (AI) for the de novo design of polymer electrolytes. To optimize the generation, we compare different deep learning architectures, including both GPT-based and diffusion-based models, and benchmark the results with hyperparameter tuning. We further employ various evaluation metrics and full-atom molecular dynamics simulations to assess the performance of different generative model architectures and to validate the top candidates produced by each model. Out of only 45 candidates being tested, we discovered 17 polymers that achieve superior ionic conductivity better than any other polymers in our database, with some of them doubling the conductivity value. In addition, by adopting a pretraining and fine-tuning methodology, we significantly improve the efficacy of our generative models, achieving quicker convergence, enhanced performance with limited data, and greater diversity. Using the proposed method, we can easily generate a large number of novel, diverse, and valid polymers, with a chance of synthesizability, enabling us to identify promising candidates with markedly improved efficiency.

研究动机与目标

• 解决固态聚合物电解质（SPEs）中离子电导率低的问题，这是下一代电池商业化的主要障碍。
• 通过生成式AI高效探索并识别新型高性能候选材料，克服聚合物庞大的化学空间。
• 比较GPT基与扩散基生成模型在聚合物设计中的有效性，重点关注有效性、可合成性与电导率。
• 通过预训练与微调优化模型性能，提升收敛速度、数据效率与生成聚合物的多样性。
• 通过全原子分子动力学模拟验证优选候选物，确保其离子电导率与结构稳定性符合实际。

提出的方法

• 使用包含6,024种非晶态聚合物电解质的HTP-MD数据集作为训练数据，其离子输运性能经分子动力学模拟获得。
• 对聚合物SMILES表示进行分词处理，以支持GPT基与扩散基生成架构中的序列建模。
• 通过在输入序列中注入电导率类别标签实现条件生成，以引导目标性能优化。
• 在大规模聚合物语料上进行预训练，随后在SPE特异性数据集上进行微调，以提升样本质量与数据效率。
• 采用多目标评估方法，结合有效性、可合成性、唯一性与新颖性指标，以超体积作为Pareto前沿性能度量。
• 在353 K下对优选候选物进行NVT/NPT分子动力学模拟5 ns，利用Nernst-Einstein方程计算离子电导率。

实验结果

研究问题

• RQ1 GPT基与扩散基生成模型能否有效设计出具有增强离子电导率的新型聚合物电解质？
• RQ2 预训练与微调在提升生成模型在聚合物设计中的性能、多样性与数据效率方面有何作用？
• RQ3 生成聚合物候选物在有效性（可合成性）与新颖性（唯一性）之间存在何种权衡？如何实现优化？
• RQ4 在数据有限条件下，生成式模型在识别高电导率SPEs方面相较于传统筛选方法的优越程度如何？
• RQ5 与已知材料如PEO相比，所生成的聚合物在离子电导率与结构稳定性方面表现如何？

主要发现

• 在45种测试候选物中，17种聚合物的离子电导率超过数据库中所有先前报道值，部分结果实现此前最佳值的两倍。
• 采用预训练与微调显著提升了模型收敛速度、在有限数据下的性能表现，并增强了生成聚合物的多样性。
• 在条件生成设置下，扩散基模型在生成多样化、有效且高电导率的聚合物方面优于GPT基模型。
• Pareto前沿分析表明，预训练提升了超体积度量，表明在有效性、新颖性与电导率方面更广泛地覆盖高质量解。
• 分子动力学模拟验证了优选候选物的结构稳定性与高离子电导率，证实其具备实际合成与应用潜力。
• 生成式框架成功产出大量新颖、结构有效且可合成的聚合物，展示了实现逆向聚合物设计的可扩展路径。