[논문 리뷰] Enhanced sampling of robust molecular datasets with uncertainty-based collective variables

Aik Rui Tan, Johannes C. B. Dietschreit외 1명|arXiv (Cornell University)|2024. 02. 06.

Computational Drug Discovery Methods인용 수 4

한 줄 요약

이 논문은 분자의 동역학에서 강화 샘플링을 안내하기 위해 단일 기계학습 모델의 불확실성을 집합 변수(CV)로 사용하는 것을 제안한다. 이는 희귀하고 고에너지 상태의 탐색을 효율적으로 가능하게 하며, 예측 불확실성이 높은 영역으로 시뮬레이션을 편향함으로써 구성공간의 광범위한 커버리지를 달성한다. 알라닌 다펩타이드에서의 실험을 통해 데이터셋의 다양성이 향상되고 기계학습된 원자간 잠재에너지함수(MLIP)의 외삽 오차가 감소함을 입증하였다.

ABSTRACT

Generating a data set that is representative of the accessible configuration space of a molecular system is crucial for the robustness of machine learned interatomic potentials (MLIP). However, the complexity of molecular systems, characterized by intricate potential energy surfaces (PESs) with numerous local minima and energy barriers, presents a significant challenge. Traditional methods of data generation, such as random sampling or exhaustive exploration, are either intractable or may not capture rare, but highly informative configurations. In this study, we propose a method that leverages uncertainty as the collective variable (CV) to guide the acquisition of chemically-relevant data points, focusing on regions of the configuration space where ML model predictions are most uncertain. This approach employs a Gaussian Mixture Model-based uncertainty metric from a single model as the CV for biased molecular dynamics simulations. The effectiveness of our approach in overcoming energy barriers and exploring unseen energy minima, thereby enhancing the data set in an active learning framework, is demonstrated on the alanine dipeptide benchmark system.

연구 동기 및 목표

• 기계학습된 원자간 잠재에너지함수(MLIP)의 희소하고 비대표적인 학습 데이터 문제를 해결함으로써 모델의 일반화 능력을 제한하는 요소를 극복한다.
• 기존의 샘플링 방법이 저에너지 최소값에 치우쳐 있어 품질 높은 MLIP 학습에 필수적인 희귀하고 고에너지 상태를 간과하는 한계를 극복한다.
• MLIP 예측이 가장 불확실한 구성공간 영역을 능동적으로 목표로 삼아 데이터셋 커버리지와 모델 신뢰도를 향상시키는 방법을 개발한다.
• 시스템 특화의 사전 정의된 반응좌표가 필요 없도록 모델의 불확실성을 보편적이고 적응형 CV로 사용함으로써 이를 제거한다.
• 앙상블 기반의 불확실성 추정보다 단일 모델의 불확실성 추정을 활용함으로써 계산 비용을 절감하면서도 효과적인 탐색을 유지한다.

제안 방법

• 단일 훈련된 신경망 원자간 잠재에너지함수(NNIP)의 예측에서 불확실성을 추정하기 위해 혼합 정규분포 모델(GMM)을 사용하고, 이를 집합 변수(CV)로 간주한다.
• 확장된 시스템 적응형 편향력(eABF)과 가우시안 가속 분자역학(GaMD)을 조합하여 불확실성 CV를 사용한 편향된 분자역학 시뮬레이션을 수행한다.
• 능동 학습 반복 과정에서 편향 강도(γ)와 불확실성 임계값(u_cutoff)을 동적으로 조정하여 탐색과 이용의 균형을 이룬다.
• 높은 불확실성 영역에서 새로운 구성 상태를 반복적으로 수집하고 NNIP를 재학습함으로써 점차적으로 모델 정확도와 커버리지를 향상시킨다.
• 예측의 신뢰할 수 있는 오차 구간을 확보하기 위해 불확실성 추정치를 체계적 예측 기반으로 校정한다.
• 불확실성-기반 편향 에너지 방법과 비교하여 구성공간 커버리지 및 예측 오차 감소를 평가한다.

Figure 1: (a) , Structure of the alanine dipeptide molecule with carbon (C), nitrogen (N), oxygen (O), and hydrogen (H) atoms labeled in grey, blue, red, and white, respectively. Four backbone dihedral angles $\phi$ , $\psi$ , $\omega_{1}$ , and $\omega_{2}$ are annotated. (b) , Potential mean force

실험 결과

연구 질문

• RQ1 단일 훈련된 MLIP의 불확실성이 분자의 시스템에서 강화 샘플링을 안내하는 효과적이고 보편적인 집합 변수로 기능할 수 있는가?
• RQ2 불확실성을 CV로 사용할 경우, 기존의 샘플링 또는 불확실성 기반 편향 방법과 비교해 희귀하거나 고에너지 영역에서 구성공간 커버리지가 더 우수한가?
• RQ3 편향 강도(γ)의 선택이 새로운 구성 상태 탐색과 비물리적 왜곡 방지를 위한 균형에 어떻게 영향을 미치는가?
• RQ4 불확실성-기반 CV 방법이 잠재에너지 표면의 다양한 영역에서 MLIP의 일반화 능력과 외삽 정확도를 어느 정도 향상시키는가?
• RQ5 이 방법은 앙상블 기반 불확실성 추정이 필요 없이도 효과적인 능동 학습을 유지하면서 데이터셋 강화에 기여할 수 있는가?

주요 결과

• γ = 0.005의 편향 강도가 가장 효과적인 탐색을 이끌었으며, γ = 0.01보다 더 높은 예측 불확실성과 더 나은 커버리지를 달성함으로써 낮은 γ가 더 천천가고 장벽을 고려한 탐색을 가능하게 한다는 점을 시사한다.
• 불확실성-기반 CV 방법은 비편향 시뮬레이션에서 잘 탐색되지 않았고, 불확실성-기반 편향 에너지 접근법에서도 덜 탐색된 φ < 0° 영역의 φ–ψ 회전 각도 공간에 성공적으로 접근하였다.
• 능동 학습의 4세대 이후 커버리지 비율이 정체되었음에도 불구하고 예측 에너지 및 힘의 평균 절대 오차(MAE)는 계속 감소하여 모델의 외삽 능력 향상이 효과적이었다는 것을 나타낸다.
• 이 방법은 이전에 유사한 eABF-GaMD 시뮬레이션에서 부족하게 탐색된 비평면적 ω₁–ω₂ 회전 각도 영역을 효과적으로 탐색하여 복잡한 회전 운동의 탐색 향상을 보였다.
• 구성공간 다양성과 모델의 강건성 측면에서 불확실성-기반 CV 접근법이 불확실성-기반 편향 에너지 방법을 능가했으며, 비물리적 구성 상태로 인한 조기 시뮬레이션 종료가 발생하지 않았다.
• 단일 모델 기반의 불확실성 추정이 효과적인 샘플링을 이끌기에 충분했으며, 성능을 손상시키지 않으면서도 앙상블 기반 방법 대비 계산 비용을 절감하였다.

Figure 2: Cumulative exploration of configuration space projected onto the $\phi$ - $\psi$ (left column) and $\omega_{1}$ - $\omega_{2}$ (right column) plane of 10 NVT simulations at 300 K. Top) No biasing of any sort, middle) uncertainty-guided eABF, and bottom) uncertainty-guided eABF-GaMD.