[论文解读] Machine Learning for Molecular Dynamics on Long Timescales

Frank Noé|arXiv (Cornell University)|Dec 18, 2018

Machine Learning in Materials Science被引用 8

一句话总结

本文提出基于机器学习的方法——特别是深度重采样和生成式马尔可夫状态模型（MSM）——通过学习复杂动力学的低维表示，来模拟长时标分子动力学（MD）。利用通过似然度最大化或能量距离损失训练的神经网络，该方法能够准确预测松弛时间尺度、转移密度，并生成训练数据之外的、物理上合理的新型构型，显著提升了大生物分子系统的采样效率与模型可解释性。

ABSTRACT

Molecular Dynamics (MD) simulation is widely used to analyze the properties of molecules and materials. Most practical applications, such as comparison with experimental measurements, designing drug molecules, or optimizing materials, rely on statistical quantities, which may be prohibitively expensive to compute from direct long-time MD simulations. Classical Machine Learning (ML) techniques have already had a profound impact on the field, especially for learning low-dimensional models of the long-time dynamics and for devising more efficient sampling schemes for computing long-time statistics. Novel ML methods have the potential to revolutionize long-timescale MD and to obtain interpretable models. ML concepts such as statistical estimator theory, end-to-end learning, representation learning and active learning are highly interesting for the MD researcher and will help to develop new solutions to hard MD problems. With the aim of better connecting the MD and ML research areas and spawning new research on this interface, we define the learning problems in long-timescale MD, present successful approaches and outline some of the unsolved ML problems in this application field.

研究动机与目标

• 解决分子动力学模拟中罕见事件与长时标动力学的采样难题。
• 开发机器学习模型，从短时MD轨迹中学习复杂分子动力学的低维表示。
• 利用深度神经网络实现高效、可解释且可泛化的长时标动力学建模。
• 通过统一且可学习的框架，弥合机器学习与分子动力学之间的鸿沟。

提出的方法

• 利用深度神经网络学习在时间延迟τ内分子构型之间的转移概率，构建深度重采样MSM。
• 使用以初始状态的独热编码为条件的生成网络，预测未来构型，通过能量距离（ED）损失进行训练，以匹配经验转移密度。
• 应用变分推断与似然度最大化优化模型参数，确保与底层马尔可夫过程的一致性。
• 引入重布线技巧，从生成样本中估计转移密度P(xt+τ | xt)，实现无偏统计推断。
• 利用深度生成模型生成训练数据中不存在的新颖、物理上合理的构型，支持主动学习与外推。
• 采用能量距离作为可微分度量，通过最小化真实与预测转移分布之间的差异，训练生成模型。

实验结果

研究问题

• RQ1 深度神经网络能否从短时MD模拟中准确近似分子系统的长时标动力学？
• RQ2 如何训练生成模型，使其生成训练数据中不存在的、物理上合理的分子构型？
• RQ3 能量距离损失能否有效训练深度生成模型，以匹配复杂分子系统的转移密度？
• RQ4 与经典MSM相比，深度学习在长时标MD中能在多大程度上提升采样效率与统计准确性？
• RQ5 如何通过可解释的、基于深度学习的分子动力学模型，增强主动学习与自适应采样？

主要发现

• 深度重采样MSM能准确再现基准系统的本征函数与主导松弛时间尺度，表现出对参考动力学的高度保真度。
• 采用能量距离损失训练的深度生成MSM成功学习了构型空间中的转移密度，并能泛化至此前未见过的亚稳态。
• 模型可在训练数据未覆盖的区域生成物理上合理的分子构型，如图7所示的肽折叠过程。
• 该方法实现了原子尺度模拟中超过秒级的长时标动力学采样，包括蛋白质-蛋白质结合与解离过程。
• 在实证评估中，该方法优于标准似然度训练与变分方法（VAMP），在本征函数与时间尺度估计方面表现出更优的准确性。
• 公开实现已发布于PyEMMA与deeptime中，数据集通过mdshare提供，可用于基准测试。