[논문 리뷰] A foundation model for atomistic materials chemistry

Ilyes Batatia, Philipp Benner외 86명|arXiv (Cornell University)|2023. 12. 29.

Machine Learning in Materials Science인용 수 236

한 줄 요약

다양한 원자 수준 시스템에서 즉시 작동하는 기초 머신러닝 원자 간 포텐셜인 MACE-MP-0를 소개하며, 제한된 데이터로 미세 조정하면 ab initio 정확도에 도달할 수 있다.

ABSTRACT

Atomistic simulations of matter, especially those that leverage first-principles (ab initio) electronic structure theory, provide a microscopic view of the world, underpinning much of our understanding of chemistry and materials science. Over the last decade or so, machine-learned force fields have transformed atomistic modeling by enabling simulations of ab initio quality over unprecedented time and length scales. However, early ML force fields have largely been limited by: (i) the substantial computational and human effort of developing and validating potentials for each particular system of interest; and (ii) a general lack of transferability from one chemical system to the next. Here we show that it is possible to create a general-purpose atomistic ML model, trained on a public dataset of moderate size, that is capable of running stable molecular dynamics for a wide range of molecules and materials. We demonstrate the power of the MACE-MP-0 model - and its qualitative and at times quantitative accuracy - on a diverse set of problems in the physical sciences, including properties of solids, liquids, gases, chemical reactions, interfaces and even the dynamics of a small protein. The model can be applied out of the box as a starting or "foundation" model for any atomistic system of interest and, when desired, can be fine-tuned on just a handful of application-specific data points to reach ab initio accuracy. Establishing that a stable force-field model can cover almost all materials changes atomistic modeling in a fundamental way: experienced users get reliable results much faster, and beginners face a lower barrier to entry. Foundation models thus represent a step towards democratising the revolution in atomic-scale modeling that has been brought about by ML force fields.

연구 동기 및 목표

• 단일 사전 훈련 모델에서 다양한 화학성을 모델링할 수 있는 고체, 액체, 기체 전반에 걸친 일반 목적의 ML 원자 간 포텐셜을 개발한다.
• 적당한 크기의 공개 데이터 세트가 광범위한 전달성을 가진 기초 모델을 학습시킬 수 있음을 시연한다.
• 적은 수의 구성으로의 미세 조정이 새로운 시스템에 대해 ab initio 수준의 정확성을 제공한다는 것을 보여준다.
• 물, 촉매 작용, MOF에 대한 적용 가능성과 추가 벤치마크 특성을 제시한다.

제안 방법

• 원자 클러스터 확장과 등가 그래프 신경망을 결합한 MACE 아키텍처를 채택한다.
• 필요한 메시지 전달 깊이를 줄이기 위해 고차원 등가 특성(4-바디)을 도입한다.
• 고차 특징을 효율적으로 매개변수화하기 위해 텐서 분해를 사용한다.
• MPtrj 공개 데이터 세트로 학습하고 다양한 시스템에서 안정성과 정확도를 평가한다.
• 여러 모델 변형(MACE-MP-0, MACE-MP-0b3, MACE-MP-0b3+ D3)을 제시하고 벤치마크에서의 성능을 보고한다.

실험 결과

연구 질문

• RQ1 단일 MLIP 기초 모델이 주기율표 전반에서 고체, 액체, 기체를 정확하게 묘사할 수 있는가?
• RQ2 기초 모델이 도메인 밖의 시스템으로 얼마나 일반화되어도 안정적인 MD 궤적을 제공할 수 있는가?
• RQ3 한정된 데이터로의 미세 조정이 특정 응용에 대해 정량적 ab initio 정확도를 달성하는 데 얼마나 효과적인가?

주요 결과

• MACE-MP-0은 광범위한 재료와 분자에 대해 안정적인 MD를 보여주며, 질적이고 때로는 정량적 정확성을 가진다.
• 물, 얼음, 계면, MOF에서 즉시 작동 성능이 참조 방법 및 실험 데이터와 의미 있는 일치를 보인다.
• 다중 헤드 재생 프로토콜을 통한 소규모 구성이의 미세 조정은 힘 오차를 크게 줄이고 특정 작업에서 ab initio 정확도에 도달할 수 있다.
• 모델은 도메인 밖 촉매 작업으로의 전이 가능하며, 목표 지향적 미세 조정을 통해 많은 경우 DFT NEB 계산과의 탁월한 일치를 달성한다.
• 기초 모델은 대규모 화학 공간(예: 91 MOF-74 유사체)의 고처리량 탐색을 가능하게 하며 상당한 MD 시간 규모를 가능하게 한다.