[논문 리뷰] On-the-Fly Active Learning of Interpretable Bayesian Force Fields for Atomistic Rare Events

Jonathan Vandermause, Steven B. Torrisi외 5명|arXiv (Cornell University)|2019. 04. 03.

Machine Learning in Materials Science인용 수 4

한 줄 요약

이 논문은 원자적 희귀 사건을 최소한의 밀도함수이론(DFT) 학습 데이터로 모델링하기 위해 가우시안 프로세스 회귀 기반의 해석 가능하고 저차원의 베이지안 힘장에 기반한 새로운 실시간 활성 학습 프레임워크인 FLARE를 소개한다. 분자 동역학 시뮬레이션 중 모델의 불확실성을 활용하여 동적으로 데이터를 확보함으로써, 약 100회의 DFT 계산으로도 높은 정확도를 달성하면서도, 다원소 물질 및 희귀 확산 사건을 포함한 복잡한 시스템에 대해 자동으로 불확실성 기반의 모델 업데이트를 가능하게 한다.

ABSTRACT

Machine learned force fields typically require manual construction of training sets consisting of thousands of first principles calculations, which can result in low training efficiency and unpredictable errors when applied to structures not represented in the training set of the model. This severely limits the practical application of these models in systems with dynamics governed by important rare events, such as chemical reactions and diffusion. We present an adaptive Bayesian inference method for automating the training of interpretable, low-dimensional, and multi-element interatomic force fields using structures drawn on the fly from molecular dynamics simulations. Within an active learning framework, the internal uncertainty of a Gaussian process regression model is used to decide whether to accept the model prediction or to perform a first principles calculation to augment the training set of the model. The method is applied to a range of single- and multi-element systems and shown to achieve a favorable balance of accuracy and computational efficiency, while requiring a minimal amount of ab initio training data. We provide a fully open-source implementation of our method, as well as a procedure to map trained models to computationally efficient tabulated force fields.

연구 동기 및 목표

• 기존 기계학습 기반 힘장이 광범위한 수동 학습 데이터를 요구함에 따라 발생하는 높은 계산 비용과 낮은 일반화 능력 문제를 해결하기 위해.
• 분자 동역학 시뮬레이션 중에 자동으로 중요한 DFT 데이터 포인트를 식별하고 계산함으로써 사전에 지정된 학습 데이터셋에 대한 의존도를 줄이기 위해.
• 모델 향상과 희귀 사건 시뮬레이션에서의 신뢰성 보장을 위해 힘장 예측에 대한 신뢰할 수 있는 해석 가능한 불확실성 추정치를 제공하기 위해.
• 복잡한 재료에 대해 최소한의 인간 간섭으로 효율적이고 확장 가능하며 자동화된 힘장 학습을 가능하게 하기 위해.
• 생산 규모의 시뮬레이션을 위해 계산적으로 효율적인 표본화 스플라인 힘장으로 훈련된 가우시안 프로세스 모델을 매핑하기 위해.

제안 방법

• 물리적으로 유의미한 저차원의 n체 커널(2체 및 3체)을 사용한 가우시안 프로세스 회귀 모델을 활용하여 상호원자 에너지와 힘을 모델링함으로써, 가시성과 복잡도 감소를 보장한다.
• 모델의 불확실성은 GP의 예측 분산을 통해 정량화되며, 이는 모델이 가장 불확실한 구성 상태를 식별함으로써 활성 학습을 이끌어낸다.
• 실시간 분자 동역학 시뮬레이션 중에 알고리즘이 불확실성 임계값을 기반으로 GP 예측을 신뢰할 것인지 또는 새로운 DFT 계산을 수행할지 실시간으로 결정한다.
• 모델의 초모수는 로그 최대 우도를 BFGS 최적화를 통해 최대 우도 추정을 통해 데이터 기반 방식으로 조정한다.
• 훈련된 GP 모델은 대규모 MD 시뮬레이션에서 사용 가능한 고정밀도이고 계산적으로 효율적인 삼차 스플라인 보간법으로 매핑된다.
• 전체 파ip라인은 오픈소스 FLARE 소프트웨어 패키지에 구현되어 있으며, DFT에는 Quantum ESPRESSO, 생산용 MD에는 LAMMPS와 통합되어 있다.

실험 결과

연구 질문

• RQ1 모델의 불확실성 기반 활성 학습이 정확한 힘장을 훈련하기 위해 필요한 DFT 계산 횟수를 크게 줄일 수 있는가?
• RQ2 신뢰할 수 있는 불확실성 추정치를 제공하는 해석 가능한 저차원의 베이지안 힘장이 분자 동역학 시뮬레이션 중 실시간 데이터 확보를 안내하는 데 사용될 수 있는가?
• RQ3 이러한 프레임워크는 최소한의 학습 데이터로도 다원소 시스템에서의 희귀 사건(예: 결정 융해 및 확산)을 신뢰성 있게 모델링할 수 있는가?
• RQ4 기존의 기계학습 기반 힘장과 비교했을 때, 이러한 결과 힘장의 정확도와 계산 효율성은 어떠한가?
• RQ5 생산 규모의 시뮬레이션에서 정확도를 손상시키지 않고 GP 기반 힘장을 표본화 스플라인 모델로 효과적으로 매핑할 수 있는가?

주요 결과

• 이 방법은 약 100회의 밀도함수이론 계산으로도 높은 정확도를 달성하여 기존의 접근 방식에 비해 훈련 데이터 요구량을 크게 줄였다.
• GP의 불확실성 기반 활성 학습 전략은 실시간 시뮬레이션 중 전이 상태 및 희귀 사건과 같은 핵심 구성 상태를 신뢰성 있게 식별할 수 있었다.
• 모델은 물리적으로 유의미한 n체 상호작용 기반으로 구성되어 있어, 힘 기여도에 대한 직접적인 물리적 통찰을 제공함으로써 해석 가능성이 높았다.
• AgI 및 Cu-Au 합금과 같은 시스템에서 급속한 결정 융해와 희귀 확산 사건을 시뮬레이션하는 데 있어 모델은 뛰어난 성능을 보였다.
• GP 모델을 삼차 스플라인 보간법으로 매핑함으로써 정확도를 유지하면서도 생산용 MD에서 힘 평가 속도를 수십만 배 이상 향상시켰다.
• 오픈소스 FLARE 패키지는 재현 가능성과 광범위한 활용을 가능하게 하며, 다원소 시스템과 불확실성 인식 시뮬레이션을 모두 지원한다.