[论文解读] Generative De Novo Protein Design with Global Context

Cheng Tan, Zhangyang Gao+3 more|arXiv (Cornell University)|Apr 21, 2022

Protein Structure and Dynamics被引用 13

一句话总结

本文提出GCA，一种新颖的生成式从头蛋白设计方法，通过整合局部消息传递与全局自注意力机制，捕捉蛋白质骨架中的邻近与远距离结构依赖关系。通过显式建模基于Transformer的全局上下文，GCA在基于结构的蛋白设计基准上实现最先进性能，优于先前方法，在序列困惑度与残基恢复准确率方面表现更优，尤其在短链及单链蛋白上表现突出。

ABSTRACT

The linear sequence of amino acids determines protein structure and function. Protein design, known as the inverse of protein structure prediction, aims to obtain a novel protein sequence that will fold into the defined structure. Recent works on computational protein design have studied designing sequences for the desired backbone structure with local positional information and achieved competitive performance. However, similar local environments in different backbone structures may result in different amino acids, indicating that protein structure's global context matters. Thus, we propose the Global-Context Aware generative de novo protein design method (GCA), consisting of local and global modules. While local modules focus on relationships between neighbor amino acids, global modules explicitly capture non-local contexts. Experimental results demonstrate that the proposed GCA method outperforms state-of-the-arts on de novo protein design. Our code and pretrained model will be released.

研究动机与目标

• 为解决现有蛋白设计方法仅依赖局部邻近信息的局限性，此类方法无法捕捉不同结构环境中上下文依赖的氨基酸偏好。
• 通过自注意力机制显式建模蛋白结构中的非局部、长程依赖关系，以改进蛋白序列生成。
• 开发一种统一的生成框架，结合局部图注意力与全局基于Transformer的注意力机制，以增强结构上下文感知能力。
• 在标准蛋白设计基准上展示卓越性能，尤其在短链及单链蛋白等挑战性场景中，此时局部特征稀疏。

提出的方法

• 该方法将蛋白结构表示为几何图，节点特征源自骨架二面角（ϕ, ψ, ω）在3-环面上的编码。
• 边特征通过Cα-Cα距离的高斯径向基函数及局部坐标系中的旋转不变方向向量计算。
• 局部模块使用图注意力网络从K个最近邻聚合消息，捕捉即时空间关系。
• 全局模块采用Transformer风格自注意力机制，显式建模所有残基间的长程依赖，实现上下文感知的序列预测。
• 模型架构在编码器与解码器中均包含三组局部与全局模块，隐藏维度为128，使用固定学习率的Adam进行训练。
• 序列生成采用自回归方式，损失通过条件于结构的预测氨基酸概率的交叉熵计算。

实验结果

研究问题

• RQ1 显式建模全局结构上下文是否能超越仅依赖局部邻近依赖关系，提升蛋白序列生成性能？
• RQ2 在蛋白结构整体上引入自注意力机制，对短链或单链蛋白设计性能有何影响？
• RQ3 混合局部-全局注意力机制是否优于仅依赖局部消息传递或全局注意力的模型？
• RQ4 在CATH 4.2与TS50等标准基准上，GCA相较于最先进方法表现如何？
• RQ5 全局上下文在低信息量场景（如短序列）中在多大程度上缓解性能下降？

主要发现

• 在CATH 4.2数据集上，GCA在'All'集上达到最低困惑度（6.44），显著优于先前方法如StructGNN（6.69）与StructTrans（7.14）。
• 在CATH 4.2 'All'集上，GCA实现最高残基恢复率（36.11%），超过StructTrans（33.90%）与StructGNN（35.25%），表明其残基预测准确率更优。
• 在具有挑战性的TS50基准上，GCA恢复率达到47.0%，优于Rosetta（30.0%）、SPIN2（33.6%）与GVP（44.1%），展现最先进性能。
• GCA在所有数据划分中表现一致，包括'短链'与'单链'集合，而其他模型在此类设置中出现过拟合或性能下降，凸显全局上下文建模的鲁棒性。
• 全局模块在短序列上显著提升性能，此时局部特征稀疏，证实长程上下文可补偿局部信息不足。