[논문 리뷰] De novo Design of Polymer Electrolytes with High Conductivity using GPT-based and Diffusion-based Generative Models

Zhenze Yang, Weike Ye외 4명|arXiv (Cornell University)|2023. 12. 11.

Machine Learning in Materials Science인용 수 6

한 줄 요약

이 연구는 GPT 기반 및 디퓨전 기반 모델을 사용하여 고전도성 폴리머 전해질을 설계하는 데모 생성형 AI 프레임워크를 제안한다. 사전 훈련, 미세 조정 및 전자기적 분자 동역학 시뮬레이션을 통한 검증을 통해 기존 데이터베이스 기록을 초월하는 17종의 새로운 폴리머를 도출하였으며, 일부는 이전 최고 기록의 두 배에 달하는 전도도를 나타냈다.

ABSTRACT

Solid polymer electrolytes hold significant promise as materials for next-generation batteries due to their superior safety performance, enhanced specific energy, and extended lifespans compared to liquid electrolytes. However, the material's low ionic conductivity impedes its commercialization, and the vast polymer space poses significant challenges for the screening and design. In this study, we assess the capabilities of generative artificial intelligence (AI) for the de novo design of polymer electrolytes. To optimize the generation, we compare different deep learning architectures, including both GPT-based and diffusion-based models, and benchmark the results with hyperparameter tuning. We further employ various evaluation metrics and full-atom molecular dynamics simulations to assess the performance of different generative model architectures and to validate the top candidates produced by each model. Out of only 45 candidates being tested, we discovered 17 polymers that achieve superior ionic conductivity better than any other polymers in our database, with some of them doubling the conductivity value. In addition, by adopting a pretraining and fine-tuning methodology, we significantly improve the efficacy of our generative models, achieving quicker convergence, enhanced performance with limited data, and greater diversity. Using the proposed method, we can easily generate a large number of novel, diverse, and valid polymers, with a chance of synthesizability, enabling us to identify promising candidates with markedly improved efficiency.

연구 동기 및 목표

• 차세대 배터리의 상용화를 저해하는 주요 장애물인 고체 폴리머 전해질(SPEs)의 낮은 이온 전도도 문제를 해결한다.
• 폴리머의 광범위한 화학적 공간을 고려하여 생성형 AI를 활용해 효율적으로 새로운 고성능 후보를 탐색하고 식별한다.
• 유효성, 합성 가능성, 전도도를 중심으로 GPT 기반 및 디퓨전 기반 생성 모델의 성능을 비교한다.
• 사전 훈련 및 미세 조정을 통해 모델 성능을 최적화하여 수렴 속도, 데이터 효율성, 생성된 폴리머의 다양성을 향상시킨다.
• 전체 원자 분자 동역학 시뮬레이션을 통해 상위 후보를 검증하여 실제 이온 전도도와 구조적 안정성을 확보한다.

제안 방법

• MD 시뮬레이션을 통해 이온 이동 특성을 확보한 6,024종의 비정질 폴리머 전해질로 구성된 정제된 HTP-MD 데이터셋을 훈련 데이터로 사용한다.
• GPT 기반 및 디퓨전 기반 생성 아키텍처에서 시퀀스 모델링을 가능하게 하기 위해 폴리머 SMILES 표현식을 토큰화한다.
• 목표 성능 최적화를 유도하기 위해 전도도 클래스 레이블을 입력 시퀀스에 통합하여 조건부 생성을 구현한다.
• 대규모 폴리머 코퍼스에서의 사전 훈련을 수행한 후 SPE 전용 데이터셋에서의 미세 조정을 통해 생성 샘플 품질 및 데이터 효율성을 향상시킨다.
• 유효성, 합성 가능성, 유일성, 신규성 지표를 사용한 다중 목적 평가를 수행하며, 파레토 최적 해의 성능 지표로 초체적량(hypervolume)을 활용한다.
• 상위 후보를 NVT/NPT 분자 동역학 시뮬레이션을 통해 353 K에서 5 ns 동안 시뮬레이션하고, Nernst-Einstein 방정식을 사용해 이온 전도도를 계산한다.

실험 결과

연구 질문

• RQ1 GPT 기반 및 디퓨전 기반 생성 모델은 향상된 이온 전도도를 갖는 새로운 폴리머 전해질을 효과적으로 설계할 수 있는가?
• RQ2 사전 훈련 및 미세 조정은 폴리머 설계에서 생성 모델의 성능, 다양성, 데이터 효율성에 어떻게 기여하는가?
• RQ3 생성된 폴리머 후보에서 유효성(합성 가능성)과 신규성(유일성) 간의 상충 관계는 무엇이며, 이를 어떻게 최적화할 수 있는가?
• RQ4 제한된 데이터로 인해 전통적 필터링 방법에 비해 생성 모델이 높은 전도도를 갖는 SPE를 얼마나 더 효과적으로 식별할 수 있는가?
• RQ5 PEO와 같은 알려진 물질과 비교해 생성된 폴리머는 이온 전도도와 구조적 안정성 측면에서 어떻게 다른가?

주요 결과

• 검토된 45개 후보 중 17개 폴리머가 기존 데이터베이스에 보고된 바가 없는 이온 전도도를 확보하였으며, 일부는 이전 최고 기록의 두 배에 달하는 전도도를 나타냈다.
• 사전 훈련 및 미세 조정의 활용은 모델 수렴 속도 향상, 제한된 데이터에서의 성능 향상, 생성된 폴리머의 다양성 향상에 기여했다.
• 특히 조건부 생성 설정에서 디퓨전 기반 모델이 GPT 기반 모델보다 더 다양한, 유효하며 고전도도를 갖는 폴리머를 더 잘 생성하였다.
• 파레토 최적 해 분석 결과, 사전 훈련이 초체적량 지표를 향상시켜 유효성, 신규성, 전도도 측면에서 고품질 솔루션의 광범위한 우월성을 보여주었다.
• 분자 동역학 시뮬레이션을 통한 검증 결과, 상위 후보들이 높은 이온 전도도와 구조적 안정성을 확보하였으며, 실질적 합성 및 응용 가능성을 입증하였다.
• 생성 프레임워크는 대량의 새로운, 구조적으로 유효하고 합성 가능한 폴리머를 성공적으로 생성하여 역설계 기반의 스케일러블한 길을 제시하였다.