[논문 리뷰] MatterGPT: A Generative Transformer for Multi-Property Inverse Design of Solid-State Materials

Yan Chen, Xueru Wang외 6명|arXiv (Cornell University)|2024. 08. 14.

Manufacturing Process and Optimization인용 수 13

한 줄 요약

MatterGPT는 SLICES crystal encoding을 사용하여 대상 속성을 가진 신규 고체 상태 물질을 설계하기 위해 다음 토큰 예측에 대한 생성 Transformer를 학습한다.

ABSTRACT

Inverse design of solid-state materials with desired properties represents a formidable challenge in materials science. Although recent generative models have demonstrated potential, their adoption has been hindered by limitations such as inefficiency, architectural constraints and restricted open-source availability. The representation of crystal structures using the SLICES (Simplified Line-Input Crystal-Encoding System) notation as a string of characters enables the use of state-of-the-art natural language processing models, such as Transformers, for crystal design. Drawing inspiration from the success of GPT models in generating coherent text, we trained a generative Transformer on the next-token prediction task to generate solid-state materials with targeted properties. We demonstrate MatterGPT's capability to generate de novo crystal structures with targeted single properties, including both lattice-insensitive (formation energy) and lattice-sensitive (band gap) properties. Furthermore, we extend MatterGPT to simultaneously target multiple properties, addressing the complex challenge of multi-objective inverse design of crystals. Our approach showcases high validity, uniqueness, and novelty in generated structures, as well as the ability to generate materials with properties beyond the training data distribution. This work represents a significant step forward in computational materials discovery, offering a powerful and open tool for designing materials with tailored properties for various applications in energy, electronics, and beyond.

연구 동기 및 목표

• 고체 상태 물질에서의 역설계 도전과제를 다룬다.
• SLICES 표기를 활용하여 결정 구조를 텍스트로 표현해 NLP 스타일 모델링을 가능하게 한다.
• 다음 토큰 예측에 대한 Generative Transformer를 학습시켜 대상 속성을 가진 구조를 생성한다.
• 단일 속성 및 다중 속성 역설계 능력을 시연한다.
• 계산 재료 발견을 위한 개방적이고 확장 가능한 도구를 제공한다.

제안 방법

• 크리스털 구조를 SLICES 문자열로 표현하여 결정의 NLP 모델링을 가능하게 한다.
• 다음 토큰 예측 과제에서 생성 Transformer를 학습시켜 결정 문자열을 생성한다.
• 생성된 구조를 타당성, 고유성, 신규성에 대해 평가한다.
• 격자 비민감(formation energy) 및 격자 민감(band gap) 속성 타깃팅을 시연한다.
• 크리스털에 대한 다속성 목적 설계로 모델을 확장한다.

실험 결과

연구 질문

• RQ1 MatterGPT가 목표 속성을 충족하는 타당하고 고유하며 새로운 결정 구조를 생성할 수 있는가?
• RQ2 모델이 formation energy 및 band gap과 같은 단일 속성을 타깃할 수 있는가?
• RQ3 MatterGPT가 결정에 대한 다속성 역설계를 달성할 수 있는가?
• RQ4 이 접근법은 학습 데이터 분포를 넘어서 얼마나 잘 일반화되는가?

주요 결과

• 이 방법은 생성된 구조의 타당성, 고유성 및 신규성에서 높은 성능을 달성한다.
• MatterGPT는 목표 속성을 가진 새로운 결정 구조를 생성할 수 있다.
• 모델은 격자 비민감 속성과 격자 민감 속성(예: formation energy 및 band gap) 모두 타깃할 수 있다.
• 이 방법은 다속성 설계로 확장되어 결정의 다목적 역설계를 다룬다.
• 본 연구는 학습 데이터 분포를 넘어서는 속성을 가진 물질 생성 가능성을 시사한다.