[论文解读] Deep Generative Markov State Models

Hao Wu, Andreas Mardt+2 more|arXiv (Cornell University)|May 19, 2018

Protein Structure and Dynamics参考文献 27被引用 36

一句话总结

该论文提出深度生成马尔可夫状态模型（DeepGenMSM），一种结合概率编码、马尔可夫链用于亚稳态转变以及生成解码器的深度学习框架，用于建模长时间动力学并生成物理上合理的分子构型。该方法可实现对动力学的精确预测，并在训练过程中未见的区域中采样新的有效分子结构，展示了在分子动力学系统中的外推能力。

ABSTRACT

We propose a deep generative Markov State Model (DeepGenMSM) learning framework for inference of metastable dynamical systems and prediction of trajectories. After unsupervised training on time series data, the model contains (i) a probabilistic encoder that maps from high-dimensional configuration space to a small-sized vector indicating the membership to metastable (long-lived) states, (ii) a Markov chain that governs the transitions between metastable states and facilitates analysis of the long-time dynamics, and (iii) a generative part that samples the conditional distribution of configurations in the next time step. The model can be operated in a recursive fashion to generate trajectories to predict the system evolution from a defined starting state and propose new configurations. The DeepGenMSM is demonstrated to provide accurate estimates of the long-time kinetics and generate valid distributions for molecular dynamics (MD) benchmark systems. Remarkably, we show that DeepGenMSMs are able to make long time-steps in molecular configuration space and generate physically realistic structures in regions that were not seen in training data.

研究动机与目标

• 开发一种用于复杂动力学系统的概率生成模型，以捕捉长时间动力学并实现轨迹预测。
• 通过引入真正的生成组件，填补现有模型的空白，该组件可在高维空间中生成物理上有效的构型。
• 仅使用亚稳态构象子集的训练数据，实现对之前未观测到的分子状态的外推。
• 提供符合贝叶斯框架的模型，支持基于似然的训练和分子动力学系统的概率推理。
• 证明使用大时间步长在构型空间中生成高质量、物理上真实的分子构型的可行性。

提出的方法

• 训练一个深度神经网络作为概率编码器，将高维构型映射到表示亚稳态状态隶属关系的低维潜在向量。
• 在潜在空间中学习一个具有转移概率矩阵 K 的马尔可夫链，以建模长时间动力学并确保概率守恒。
• 训练一个生成解码器网络以采样条件分布 P(x_{t+τ} | x_t)，实现在构型空间中的递归轨迹生成。
• 通过似然最大化进行模型训练，确保完全概率化框架，适用于贝叶斯推理。
• 利用能量距离对生成器进行正则化，以提高样本质量并确保内部坐标（键长和键角）的真实性。
• 递归应用该框架以生成长轨迹，并从初始状态预测系统演化。

实验结果

研究问题

• RQ1 深度生成模型能否仅从时间序列数据中学习到亚稳态动力系统的真实长时间动力学？
• RQ2 即使在训练数据中未出现的区域，该模型能否在高维空间中生成物理上真实的分子构型？
• RQ3 该模型是否能实现对新亚稳态的有意义外推，特别是在构型空间中低丰度或未观测到的区域？
• RQ4 生成组件能否产生与真实分子动力学数据统计分布一致的有效内部坐标（键长和键角）？
• RQ5 该模型是否足够鲁棒，能够使用大时间步长生成高质量结构，从而加速分子动力学中的采样？

主要发现

• DeepGenMSM 准确估计了长时间动力学和稳态分布，其转移概率矩阵与真实底层动力学高度近似。
• 该模型生成的分子构型在键长和键角上与真实分子动力学数据的统计特性非常接近，均值和标准差的偏差极小。
• 尽管某些亚稳态在训练中未出现，该模型仍成功生成了高质量、物理上真实的结构，尤其在丙氨酸二肽的主导状态（1–4）中表现优异。
• 与真实MD构型最相似的100个生成结构显示出高度的结构重叠，证实了模型准确再现已知状态的能力。
• 该模型通过在未训练的构型空间区域生成有效构型，展示了外推能力，表明其在分子动力学中具有主动学习和加速采样的潜力。
• 生成组件产生的结构具有真实的内部坐标，表明该模型捕捉到了分子系统的关键物理约束。