[论文解读] Modeling Molecular Structures with Intrinsic Diffusion Models

Gabriele Corso|arXiv (Cornell University)|Feb 23, 2023

Protein Structure and Dynamics被引用 4

一句话总结

本文提出了一种名为内在扩散模型（Intrinsic Diffusion Models）的新颖深度生成框架，通过在分子内在自由度的低维流形上定义扩散过程——特别是扭转坐标——来利用分子柔性，从而实现更快、更准确的分子构象和蛋白-配体对接构象生成。该方法在两项任务中均达到最先进性能，优于传统计算方法和现有的深度学习基线模型。

ABSTRACT

Since its foundations, more than one hundred years ago, the field of structural biology has strived to understand and analyze the properties of molecules and their interactions by studying the structure that they take in 3D space. However, a fundamental challenge with this approach has been the dynamic nature of these particles, which forces us to model not a single but a whole distribution of structures for every molecular system. This thesis proposes Intrinsic Diffusion Modeling, a novel approach to this problem based on combining diffusion generative models with scientific knowledge about the flexibility of biological complexes. The knowledge of these degrees of freedom is translated into the definition of a manifold over which the diffusion process is defined. This manifold significantly reduces the dimensionality and increases the smoothness of the generation space allowing for significantly faster and more accurate generative processes. We demonstrate the effectiveness of this approach on two fundamental tasks at the basis of computational chemistry and biology: molecular conformer generation and molecular docking. In both tasks, we construct the first deep learning method to outperform traditional computational approaches achieving an unprecedented level of accuracy for scalable programs.

研究动机与目标

• 通过生成整个构象分布而非单一静态结构，解决建模分子动态、多结构特性的挑战。
• 通过将分子柔性的物理知识嵌入生成过程，提升分子构象生成与蛋白-配体对接的效率和准确性。
• 开发一种基于内在自由度（如扭转角）而非笛卡尔坐标的深度生成模型，以降低维度并增强生成空间的平滑性。
• 证明该方法在构象生成与对接准确性方面可超越传统计算方法与现有深度学习模型。
• 为药物发现的下游应用，实现生成物理上合理、多样化且高置信度的分子构象，包括多种结合模式。

提出的方法

• 通过定义内在自由度（如扭转角）的低维流形来参数化分子柔性，显著降低生成空间的维度。
• 在该流形上直接定义基于得分的生成模型的扩散过程，扩散过程由学习到的得分函数引导，以尊重流形的几何结构。
• 使用神经网络在扭转流形上预测得分函数，通过在真实扭转状态的噪声扰动上进行去噪目标进行训练。
• 在对接任务中，将框架扩展为基于蛋白结构生成配体构象，引入置信度头以对生成的构象进行排序。
• 在得分网络架构中利用对偶对称性与几何不变性，确保物理一致性与鲁棒性。
• 训练采用内在流形上的去噪目标，推理过程通过从噪声开始的反向扩散步骤，生成多样化且高置信度的分子结构。

实验结果

研究问题

• RQ1 通过内在自由度（如扭转角）建模分子动力学，是否能相比笛卡尔空间扩散模型实现更高效、更准确的分子结构生成？
• RQ2 在低维、具有物理意义的流形上定义的扩散模型，是否能在分子构象生成中超越传统计算方法？
• RQ3 相同的基于内在流形的扩散框架是否能在蛋白-配体对接中实现最先进性能，包括采样多种结合模式的能力？
• RQ4 引入置信度头在多大程度上改善了对接任务中的构象选择与下游亲和力预测？
• RQ5 在复杂或对称体系中，该模型生成多样化、物理上合理构象的能力，与基于回归或非生成模型相比如何？

主要发现

• 所提出的扭转扩散模型在采样40个构象时，有38%的成功率生成与真实结构RMSD小于2Å的构象，显著优于单样本基线（22%）和传统方法。
• 在分子对接任务中，DiffDock在从40个样本中选取最高置信度构象时，成功率达到38%（RMSD < 2Å），超越现有深度学习与传统对接基线。
• 该方法能为对称或柔性复合物生成多个物理上合理的结合模式，而基于回归的模型（如EquiBind）仅能预测单一平均结构。
• 即使未经超参数调优，DiffDock的亲和力预测头在PDBBind数据集上达到RMSE 1.347与Spearman相关系数0.718，与最先进方法（如TANKBind）相当或更优。
• 可视化结果表明，DiffDock能围绕多个结合模式采样，生成准确且多样的构象，而基线方法（如TANKBind）常生成自交或错误的构象。
• 反向扩散过程展示了从噪声到稳定分子结构的平滑、物理上合理的过渡，验证了模型学习到的得分函数与流形几何结构的有效性。