[논문 리뷰] Deep Generative Markov State Models

Hao Wu, Andreas Mardt외 2명|arXiv (Cornell University)|2018. 05. 19.

Protein Structure and Dynamics참고 문헌 27인용 수 36

한 줄 요약

이 논문은 확률적 인코딩, 메타안정 상태 전이를 위한 마르코프 체인, 그리고 생성 디코더를 조합한 딥 러닝 프레임워크인 딥 제너레이티브 마르코프 스테이트 모델(DeepGenMSM)을 제안한다. 이는 장시간 동역학을 모델링하고 물리적으로 현실적인 분자 구조를 생성하는 데 기여한다. 이는 훈련 중에 볼 수 없었던 영역조차도 새로운 유효한 분자 구조를 샘플링하고 동역학을 정확하게 예측할 수 있게 하여 분자 동역학 시스템에서의 외삽 능력을 입증한다.

ABSTRACT

We propose a deep generative Markov State Model (DeepGenMSM) learning framework for inference of metastable dynamical systems and prediction of trajectories. After unsupervised training on time series data, the model contains (i) a probabilistic encoder that maps from high-dimensional configuration space to a small-sized vector indicating the membership to metastable (long-lived) states, (ii) a Markov chain that governs the transitions between metastable states and facilitates analysis of the long-time dynamics, and (iii) a generative part that samples the conditional distribution of configurations in the next time step. The model can be operated in a recursive fashion to generate trajectories to predict the system evolution from a defined starting state and propose new configurations. The DeepGenMSM is demonstrated to provide accurate estimates of the long-time kinetics and generate valid distributions for molecular dynamics (MD) benchmark systems. Remarkably, we show that DeepGenMSMs are able to make long time-steps in molecular configuration space and generate physically realistic structures in regions that were not seen in training data.

연구 동기 및 목표

• 복잡한 동역학 시스템을 위한 확률적이고 생성적인 모델을 개발하여 장시간 동역학을 캡처하고 궤적 예측을 가능하게 한다.
• 기존 모델의 격차를 보완하기 위해 고차원 공간에서 물리적으로 유효한 구조를 생성하는 진정한 생성 성분을 통합한다.
• 메타안정 구조의 일부만 훈련 데이터로 제공된 경우에도 이전에 관측되지 않은 분자 상태로의 외삽을 가능하게 한다.
• 가능도 기반 훈련과 분자 동역학 시스템을 위한 확률적 추론을 지원하는 베이지안 호환 모델을 제공한다.
• 구성 공간에서 큰 시간 간격을 사용하여도 고품질의 물리적으로 현실적인 분자 구조를 생성할 수 있음을 입증한다.

제안 방법

• 고차원 구조를 저차원 잠재 벡터로 매핑하는 확률적 인코더로 작동하는 딥 네ural 네트워크를 훈련하여 메타안정 상태 소속성을 표현한다.
• 잠재 공간에서 전이 확률 행렬 K를 가진 마르코프 체인을 학습하여 장시간 동역학을 모델링하고 확률 보존을 보장한다.
• 조건부 분포 P(x_{t+τ} | x_t)를 샘플링할 수 있도록 생성 디코더 네트워크를 훈련하여 구성 공간에서의 재귀적 궤적 생성을 가능하게 한다.
• 모델은 가능도 최대화를 통해 훈련되어 베이지안 추론에 적합한 완전한 확률적 프레임워크를 확보한다.
• 샘플 품질 향상과 내부 좌표(결합 길이 및 각도)의 현실성 확보를 위해 에너지 거리 기반 정규화를 생성기로 적용한다.
• 프레임워크는 반복적으로 적용되어 장시간 궤적 생성 및 초기 상태로부터의 시스템 진화 예측을 가능하게 한다.

실험 결과

연구 질문

• RQ1 딥 제너레이티브 모델은 시간 시리즈 데이터로부터 메타안정 동역학 시스템의 정확한 장시간 동역학을 학습할 수 있는가?
• RQ2 훈련 데이터에 존재하지 않는 영역에서도 고차원 공간에서 물리적으로 현실적인 분자 구조를 생성할 수 있는가?
• RQ3 특히 구성 공간에서 저빈도 또는 관측되지 않은 영역에서 새로운 메타안정 상태로의 의미 있는 외삽을 가능하게 하는가?
• RQ4 생성 성분이 실제 분자 동역학 데이터의 통계 분포와 일치하는 유효한 내부 좌표(결합 길이 및 각도)를 생성할 수 있는가?
• RQ5 큰 시간 간격을 사용해도 고품질의 구조를 생성할 수 있을 정도로 안정적인가로써, 분자 동역학에서 샘플링을 가속화할 수 있는가?

주요 결과

• DeepGenMSM은 장시간 동역학과 정적 분포를 정확하게 추정하며, 전이 확률 행렬이 실제 동역학에 매우 가까이 근접함을 보였다.
• 모델은 실제 분자 동역학 데이터와 통계적으로 유사한 결합 길이 및 각도를 갖는 분자 구조를 생성하여 평균과 표준편차에서 최소한의 편차를 보였다.
• 특정 메타안정 상태에 훈련 데이터가 없음에도 불구하고, 특히 알라닌 다펩타이드의 주요 상태(1–4)에서 고품질의 물리적으로 현실적인 구조를 성공적으로 생성하였다.
• 실제 MD 구조와 가장 유사한 100개의 생성 구조는 높은 구조적 겹침을 보였으며, 이는 모델이 알려진 상태를 정확히 재현할 수 있음을 확인한다.
• 훈련되지 않은 구성 공간 영역에서도 유효한 구조를 생성함으로써 외삽 능력을 입증하였으며, 이는 MD에서의 능동 학습과 샘플링 가속화 잠재력을 시사한다.
• 생성 성분은 현실적인 내부 좌표를 생성하여 모델이 분자 시스템의 핵심 물리적 제약을 잘 캡처하고 있음을 나타낸다.