[论文解读] Learning Neural Generative Dynamics for Molecular Conformation Generation

Minkai Xu, Shitong Luo+3 more|arXiv (Cornell University)|Feb 20, 2021

Machine Learning in Materials Science参考文献 41被引用 28

一句话总结

本论文提出一个概率框架，将条件图连续流（CGCF）用于距离几何与能量基倾斜模型（ETM）结合，以在给定分子图的条件下生成多样且有效的分子构象，在 GEOM-QM9、GEOM-Drugs 与 ISO17 基准测试上达到最新状态。

ABSTRACT

We study how to generate molecule conformations (i.e., 3D structures) from a molecular graph. Traditional methods, such as molecular dynamics, sample conformations via computationally expensive simulations. Recently, machine learning methods have shown great potential by training on a large collection of conformation data. Challenges arise from the limited model capacity for capturing complex distributions of conformations and the difficulty in modeling long-range dependencies between atoms. Inspired by the recent progress in deep generative models, in this paper, we propose a novel probabilistic framework to generate valid and diverse conformations given a molecular graph. We propose a method combining the advantages of both flow-based and energy-based models, enjoying: (1) a high model capacity to estimate the multimodal conformation distribution; (2) explicitly capturing the complex long-range dependencies between atoms in the observation space. Extensive experiments demonstrate the superior performance of the proposed method on several benchmarks, including conformation generation and distance modeling tasks, with a significant improvement over existing generative models for molecular conformation sampling.

研究动机与目标

• 动机与解决从图生成多模态、长程依赖的分子构象的挑战。
• 用以分子图为条件的连续归一化流来建模距离几何 p(d|G)。
• 通过能量基倾斜项 E(R,G) 来细化生成的构象，以捕捉长程相互作用。
• 通过将基于流的密度估计与能量基细化相结合，实现高效采样与训练。

提出的方法

• 将 p(R|G) 分解为 p(R|d,G) p(d|G)，以将坐标生成与距离几何分离。
• 用条件图连续流（CGCF）建模 p(d|G)，通过连续动力学（CNF）和信息传递神经网络实现。
• 通过一种概率形式表示 p(R|d,G)，允许通过在笛卡尔坐标上的简单能量基分布进行采样。
• 引入能量基倾斜模型（ETM） Eφ(R,G) 用于建模长程相互作用，并通过 pθ,φ(R|G) ∝ pθ(R|G) exp(-Eφ(R,G)) 对 p(R|G) 做倾斜。
• 使用噪声对比估计（NCE）训练 ETM，利用 CGCF 作为噪声分布。
• 执行两阶段采样：(i) 使用 CGCF 生成距离并通过类似 EDG 的后处理获得初始 R，(ii) 使用 ETM 的 Langevin 动力学对 R 进行细化。

实验结果

研究问题

• RQ1 基于距离几何的流模型是否能捕获在给定分子图条件下的原子间距离的多模态分布？
• RQ2 引入能量基倾斜项是否能改善长程依赖建模以及生成构象的逼真度？
• RQ3 两阶段的 CGCF + ETM 采样策略在构象生成和距离分布任务上如何与以往基线相比？
• RQ4 ETM 对多样性以及向接近平衡态构象收敛的影响在标准基准上如何？

主要发现

• CGCF 在构象生成基准上实现比最先进基线更高的多样性和准确性。
• 通过显式建模长程相互作用，融入 ETM 进一步提高生成构象的质量。
• 在 GEOM-QM9、GEOM-Drugs、ISO17 数据集上，CGCF + ETM 框架在构象生成和距离分布任务上均优于基线。
• 该方法在保持高多样性（低模式塌陷）的同时，与真实分布保持很强的一致性。