[논문 리뷰] Reaction coordinate flows for model reduction of molecular kinetics

Hao Wu, Frank Noé|arXiv (Cornell University)|2023. 09. 11.

Machine Learning in Materials ScienceMaterials Science인용 수 3

한 줄 요약

이 논문은 정규화 흐름 기반의 방법인 RC 플로우를 소개한다. RC 플로우는 비선형 반응 좌표를 동시에 탐지하고, 브라운 운동을 이용해 그들의 감소된 동역학을 모델링한다. 역행성 정규화 흐름과 데이터 기반의 매개변수 추정을 활용함으로써, RC 플로우는 해석 가능하고 연속적인 시간, 그리고 다루기 쉬운 저차원 동역학 모델을 가능하게 하며, 기존 방법들보다 분자의 시뮬레이션 데이터로부터 비정상 상태와 전이 동역학을 더 잘 포착한다.

ABSTRACT

In this work, we introduce a flow based machine learning approach, called reaction coordinate (RC) flow, for discovery of low-dimensional kinetic models of molecular systems. The RC flow utilizes a normalizing flow to design the coordinate transformation and a Brownian dynamics model to approximate the kinetics of RC, where all model parameters can be estimated in a data-driven manner. In contrast to existing model reduction methods for molecular kinetics, RC flow offers a trainable and tractable model of reduced kinetics in continuous time and space due to the invertibility of the normalizing flow. Furthermore, the Brownian dynamics-based reduced kinetic model investigated in this work yields a readily discernible representation of metastable states within the phase space of the molecular system. Numerical experiments demonstrate how effectively the proposed method discovers interpretable and accurate low-dimensional representations of given full-state kinetics from simulations.

연구 동기 및 목표

• 기존의 천천히 움직이는 변수를 식별하는 데 한계가 있는 전통적 방법을 넘어서, 데이터 기반의 연속적인 시간 모델 축소 프레임워크를 개발하는 것.
• 비정상 상태와 전이 경로를 유지하는 해석 가능한 저차원 반응 좌표를 탐지할 수 있도록 하는 것.
• 정규화 흐름과 브라운 운동을 사용하여, 다루기 쉬우며, 역행성이고, 훈련 가능한 감소된 동역학 모델을 구축하는 것.
• 고차원 분자 시스템에서 조건부 분포의 비처리 가능성 문제를 역행성 변환을 활용하여 해결하는 것.
• 선형 또는 시간 스케일 분리 가정을 초월하여 일반화 가능하고 스케일이 확장 가능한 모델 축소 방법을 제공하는 것.

제안 방법

• RC 플로우는 전체 상태의 분자 구성을 반응 좌표(RC)로의 역행성 변환을 학습하기 위해 정규화 흐름(NF)을 사용하며, 이는 이항사상과 다루기 쉬운 밀도 추정을 보장한다.
• 이 방법은 반응 좌표를 따라 감소된 동역학을 브라운 운동 확률적 미분 방정식(SDE)으로 모델링하여, 명확하고 연속적인 시간 동역학을 제공한다.
• 모델의 모든 매개변수—NF와 SDE 계수—는 시뮬레이션 데이터로부터 최대우도 추정을 통해 추정되며, 이는 엔드 투 엔드 훈련을 가능하게 한다.
• NF는 역행성과 효율적인 가능도 계산을 보장하기 위해 12개의 커파링 블록과 3층의 MLP를 사용한 RealNVP 아키텍처로 구현된다.
• 이 방법은 전이 확률을 RC 공간에서 근사하기 위해 중요도 샘플링(알고리즘 2)을 사용하며, 이는 동역학 정확도 평가를 가능하게 한다.
• 고차원 시스템에서 최적화 안정성과 초기 반응 좌표 품질을 향상시키기 위해 TICA를 사용한 사전 훈련이 적용된다.

Figure 1: Diagram of RC flow for model reduction of molecular kinetics. The NF $F$ transforms state $\mathbf{x}_{t}$ into a vector consisting of the RC $\mathbf{z}_{t}$ and the noise $\mathbf{v}_{t}\sim\mathcal{N}(\mathbf{0},\mathbf{I})$ . Correspondingly, $\mathbf{x}_{t+\tau}$ can be reconstructed

실험 결과

연구 질문

• RQ1 정규화 흐름을 사용하여 데이터 기반, 역행성, 연속적인 방식으로 비선형 반응 좌표를 동시에 탐지하고, 그들의 감소된 동역학을 모델링할 수 있는가?
• RQ2 기존의 모델 축소 기법과 비교해 RC 플로우는 비정상 상태와 전이 경로를 얼마나 잘 유지하는가?
• RQ3 감소된 동역학에 대한 브라운 운동 근사가 저차원 표현에서의 해석 가능성과 정확도를 얼마나 향상시키는가?
• RQ4 전통적인 천천히 움직이는 변수 방법이 실패하는, 명백한 시간 스케일 분리가 없는 시스템에 RC 플로우가 일반화될 수 있는가?
• RQ5 정규화 흐름의 역행성은 감소된 모델에서 전체 상태의 동역학을 재구성하는 데 어떻게 기여하는가?

주요 결과

• RC 플로우는 분자 시스템에서 비정상 상태와 전이 경로를 정확하게 표현하는 해석 가능한 저차원 반응 좌표를 성공적으로 탐지한다.
• 장기적인 동역학 예측에서 높은 정확도를 달성하였으며, 감소된 모델의 암시적 시간 스케일이 전체 상태 시스템과 밀접하게 일치한다.
• 정규화 흐름의 사용으로 정확한 밀도 추정과 역행성 사상이 가능해져, 전체 상태 동역학이 반응 좌표 모델에서 재구성될 수 있다.
• 이중 우물, 멀러, 스위스 롤, 알라닌 다펩타이드 시스템에 대한 수치 실험은 다양한 분자 지형에서 일관된 성능을 보였다.
• 브라운 운동 기반 감소된 모델은 물리적으로 해석 가능하고 다루기 쉬운 동역학 표현을 제공하며, 비역행성 또는 비연속적인 대안들보다 뛰어난 성능을 보였다.

Figure 2: Model reduction of two-dimensional diffusion processes. (A) Potential energy functions in $\mathbb{R}^{2}$ . The solid lines consist of points $\{F^{-1}(z,0)|z\in\mathbb{R}\}$ , and points with the same colors indicate they belong to the same potential well of the reduced potential $V$ . (