[논문 리뷰] Accurate global machine learning force fields for molecules with hundreds of atoms

Stefan Chmiela, Valentín Vassilev-Galindo외 5명|arXiv (Cornell University)|2022. 09. 29.

Machine Learning in Materials Science인용 수 9

한 줄 요약

이 논문은 전역 대칭 기울기 도메인 기계학습 힘 장력(sGDML)을 위한 파라미터 없는 반복적 학습 방법을 제안하며, 수치적 조절을 통해 커널 행렬의 제곱법적 스케일링을 극복함으로써 수백 개 원자까지 정확하게 모델링할 수 있도록 한다. 이 방법은 국소화 근사 없이 정확한 해를 도출하며, 높은 정확도와 샘플 효율성을 유지하면서 대규모 시스템에서 나노초 경량 경로 적분 분자 동역학 시뮬레이션을 가능하게 한다.

ABSTRACT

Global machine learning force fields (MLFFs), that have the capacity to capture collective many-atom interactions in molecular systems, currently only scale up to a few dozen atoms due a considerable growth of the model complexity with system size. For larger molecules, locality assumptions are typically introduced, with the consequence that non-local interactions are poorly or not at all described, even if those interactions are contained within the reference ab initio data. Here, we approach this challenge and develop an exact iterative parameter-free approach to train global symmetric gradient domain machine learning (sGDML) force fields for systems with up to several hundred atoms, without resorting to any localization of atomic interactions or other potentially uncontrolled approximations. This means that all atomic degrees of freedom remain fully correlated in the global sGDML FF, allowing the accurate description of complex molecules and materials that present phenomena with far-reaching characteristic correlation lengths. We assess the accuracy and efficiency of our MLFFs on a newly developed MD22 benchmark dataset containing molecules from 42 to 370 atoms. The robustness of our approach is demonstrated in nanosecond long path-integral molecular dynamics simulations for the supramolecular complexes in the MD22 dataset.

연구 동기 및 목표

• 작은 분자에만 적용 가능한 전역 기계학습 힘 장력(MLFFs)의 제곱법적 스케일링 한계를 극복하기 위해.
• 수백 개 원자를 가진 시스템에 대해 국소화 근사 없이 정확하고 파라미터 없는 전역 sGDML 힘 장력의 학습을 가능하게 하기 위해.
• 조직화된 가정을 제거함으로써 장거리 상호작용이 존재하더라도 이를 잘라내는 것을 방지하기 위해.
• 딥 뉴럴 네트워크와 동일한 확장성과 병렬 처리 능력을 확보하면서도 커널 기반 모델의 샘플 효율성과 정확도를 유지하는 확장 가능한 학습 프레임워크를 개발하기 위해.
• 장시간 경량 경로 적분 분자 동역학 시뮬레이션을 통해 이론적 방법의 강건성을 대규모 유연한 분자 시스템에서 입증하기 위해.

제안 방법

• 두 단계 학습 절차를 제안한다: 먼저 닫힌 형태로 효과적 자유도를 구하고, 이후 조절된 공액 기울기(CG) 해법기를 사용해 반복적으로 정확한 해에 수렴시킨다.
• 수치적 조절을 적용해 커널 행렬의 조건수를 크게 감소시켜 반복적 해법기의 빠르고 안정적인 수렴을 가능하게 한다.
• 가우시안 프로세스 기반 sGDML 모델의 선형성과 볼록성을 활용해 초모수 조정 없이 정확한 해에 수렴함을 보장한다.
• 반복적 해법기를 통한 실시간 모델 평가를 활용해, 딥 뉴럴 네트워크 수준의 대규모 시스템에서의 효율적 학습을 가능하게 한다.
• 알고리즘적 미분을 사용해 미분 방정식 제약 조건을 강제 적용함으로써 데이터 효율성과 기술자 특징 학습을 향상시킨다.
• 학습된 모델을 압축하여 평가 효율성을 향상시키기 위해 기술자 자르기 기법을 도입한다.

실험 결과

연구 질문

• RQ1 수백 개 원자를 가진 분자에 대해 국소화 근사 없이 정확하고 효율적으로 전역 기계학습 힘 장력을 학습시킬 수 있는가?
• RQ2 수치적 조절은 대규모 커널 기반 MLFF 학습에서 반복적 해법기의 안정적이고 빠른 수렴을 어떻게 가능하게 하는가?
• RQ3 장거리 상관 효과를 보존하는 정도는 국소화된 모델과 비교해 얼마나 우수한가, 심지어 ab initio 기준 데이터에 이러한 효과가 존재하더라도?
• RQ4 커널 기반 MLFFs는 딥 뉴럴 네트워크의 확장성과 병렬 처리 능력을 유지하면서도 샘플 효율성과 정확도를 유지할 수 있는가?
• RQ5 대규모이고 매우 민감한 분자 시스템에서 장시간 경량 양자역학적 동역학 시뮬레이션에서 sGDML 힘 장력의 강건성은 어떠한가?

주요 결과

• 제안된 조절된 반복적 해법기는 수백 개 원자를 가진 분자에 대해 정확한 전역 sGDML 힘 장력 학습을 가능하게 하며, 이는 이전의 한계를 크게 초월한다.
• 새로 도입된 MD22 벤치마크 데이터셋에서 높은 정확도를 달성하였으며, 이는 42에서 370개 원자를 포함하는 분자들에 대해 힘의 평균 절대 오차가 10 meV/Å 미만이었다.
• 학습된 sGDML 힘 장력을 사용한 나노초 경량 경로 적분 분자 동역학 시뮬레이션은 안정성과 정확도를 입증하며, 장시간 양자역학적 동역학에서 모델의 신뢰성을 확인한다.
• 스펙트럼 분석 결과, 큰 분자에서 효과적 자유도의 스케일링은 제곱법적 이상을 보이지 않으며, 저차원 표현과 계산 비용 감소를 가능하게 한다.
• 이 방법은 커널 기반 모델의 샘플 효율성과 예측 정확도를 유지하면서도 GPU 기반 학습 및 추론을 가능하게 하여 딥 러닝 프레임워크와의 융합을 가능하게 한다.
• 이 프레임워크는 알고리즘적 미분 및 기술자 자르기와 같은 고급 기법과 호환되어 데이터 효율성과 모델의 해석 가능성 향상에 기여한다.