[论文解读] EBM-Fold: Fully-Differentiable Protein Folding Powered by Energy-based Models

Jiaxiang Wu, Shitong Luo+4 more|arXiv (Cornell University)|May 11, 2021

Protein Structure and Dynamics参考文献 52被引用 7

一句话总结

EBM-Fold 提出了一种完全可微分的蛋白质结构优化方法，通过使用去噪得分网络从受损的距离矩阵中预测 Cα 原子坐标上的梯度。该方法利用拉普拉斯动力学实现端到端优化，在中等规模数据集上实现了 0.7775 的 lDDT-Ca 得分，优于 trRosetta 的 0.7452，同时通过二面角约束显式解决了手性问题。

ABSTRACT

Accurate protein structure prediction from amino-acid sequences is critical to better understanding the protein function. Recent advances in this area largely benefit from more precise inter-residue distance and orientation predictions, powered by deep neural networks. However, the structure optimization procedure is still dominated by traditional tools, e.g. Rosetta, where the structure is solved via minimizing a pre-defined statistical energy function (with optional prediction-based restraints). Such energy function may not be optimal in formulating the whole conformation space of proteins. In this paper, we propose a fully-differentiable approach for protein structure optimization, guided by a data-driven generative network. This network is trained in a denoising manner, attempting to predict the correction signal from corrupted distance matrices between Ca atoms. Once the network is well trained, Langevin dynamics based sampling is adopted to gradually optimize structures from random initialization. Extensive experiments demonstrate that our EBM-Fold approach can efficiently produce high-quality decoys, compared against traditional Rosetta-based structure optimization routines.

研究动机与目标

• 开发一种完全可微分的蛋白质结构优化框架，以替代传统的 Rosetta 等工具。
• 通过去噪学习原生蛋白质结构的得分函数，实现端到端训练与优化。
• 通过数据驱动的梯度对随机初始结构进行精细化，提升结构预测的准确性。
• 通过专门的二面角基础解析模块，解决蛋白质结构中的手性模糊问题。
• 展示构建类似 AlphaFold2 的端到端蛋白质结构预测流水线的可行性。

提出的方法

• 通过去噪得分匹配训练得分网络，以估计原生蛋白质结构在 Cα 坐标上的对数概率梯度。
• 网络输入为从扰动 Cα 坐标中获得的受损距离矩阵，目标为真实梯度信号。
• 推理阶段，通过使用退火噪声的拉普拉斯动力学对随机初始结构进行优化，其中步长与噪声标准差的平方成正比。
• 该方法在得分网络中采用 SE(3)-等变消息传递，以保持三维旋转和平移不变性。
• 手性问题解析模块利用二面角分布纠正镜像结构，提升 GDT-TS 得分。
• 该框架在约 2000 个 CATH 结构域的中等规模数据集上进行训练，评估使用 lDDT-Ca 和 GDT-TS 指标。

实验结果

研究问题

• RQ1 完全可微分的数据驱动得分网络是否能在蛋白质结构优化中超越传统基于能量的优化工具（如 Rosetta）？
• RQ2 在距离矩阵上进行去噪得分匹配是否能实现对随机初始蛋白质结构的有效且稳定的优化？
• RQ3 该模型是否能在不依赖外部对称性约束的情况下解决蛋白质结构中的手性模糊问题？
• RQ4 在相同输入预测条件下，EBM-Fold 的性能与 trRosetta 等最先进方法相比如何？
• RQ5 退火拉普拉斯动力学调度在收敛性和结构准确性方面起到了多大作用？

主要发现

• EBM-Fold 将相同测试集上的平均 lDDT-Ca 得分从 trRosetta 的 0.7452 提升至 0.7775，证明了其卓越的优化能力。
• 在每种目标的最佳结构中，EBM-Fold 达到 0.8124 的 lDDT-Ca 得分，而 trRosetta 为 0.8523，表明其在优化稳定性方面仍有提升空间。
• GDT-TS 指标显示，若未启用手性问题解析模块，则约 50% 的预测结构存在错误手性，显著降低 GDT-TS 得分。
• 启用手性模块后，GDT-TS 得分保持高水平且稳定，证实其在纠正镜像错误方面的有效性。
• 结构优化过程显示出一致的 lDDT-Ca 提升，尤其在拉普拉斯动力学阶段的前三分之二，此时噪声降低且步长较大。
• 该方法计算效率高，在单张 V100 GPU 上经过 18 小时训练后，对小于 300 个残基的蛋白质，结构预测耗时不足 1 分钟。