[论文解读] AtomSurf : Surface Representation for Learning on Protein Structures

Vincent Mallet, Souhaib Attaiki+3 more|arXiv (Cornell University)|Sep 28, 2023

Machine Learning in Materials ScienceMaterials Science被引用 3

一句话总结

本文提出 AtomSurf，一种用于蛋白质结构的新型基于表面的表征方法，通过统一架构协同结合图神经网络与表面学习。通过在两种模态间进行几何消息传递，该方法在所有 Atom3D 基准任务上均取得最先进性能，优于单独使用表面或图的方法，尤其在配体结合口袋分类与蛋白质结构预测任务中表现突出。

ABSTRACT

While there has been significant progress in evaluating and comparing different representations for learning on protein data, the role of surface-based learning approaches remains not well-understood. In particular, there is a lack of direct and fair benchmark comparison between the best available surface-based learning methods against alternative representations such as graphs. Moreover, the few existing surface-based approaches either use surface information in isolation or, at best, perform global pooling between surface and graph-based architectures. In this work, we fill this gap by first adapting a state-of-the-art surface encoder for protein learning tasks. We then perform a direct and fair comparison of the resulting method against alternative approaches within the Atom3D benchmark, highlighting the limitations of pure surface-based learning. Finally, we propose an integrated approach, which allows learned feature sharing between graphs and surface representations on the level of nodes and vertices across all layers. We demonstrate that the resulting architecture achieves state-of-the-art results on all tasks in the Atom3D benchmark, while adhering to the strict benchmark protocol, as well as more broadly on binding site identification and binding pocket classification. Furthermore, we use coarsened surfaces and optimize our approach for efficiency, making our tool competitive in training and inference time with existing techniques. Code can be found online: https://github.com/Vincentx15/atomsurf

研究动机与目标

• 评估基于表面的表征在蛋白质结构学习中的有效性，尤其与图和网格基方法进行比较。
• 解决纯表面学习方法的局限性，尽管其在理论上对表面敏感任务具有优势，但实际表现仍落后于其他模态。
• 设计一种统一且可学习的架构，协同结合图与表面表征，以发挥其互补优势。
• 在 Atom3D 基准与结合口袋分类任务上对所提方法进行基准测试，树立新的性能标准。
• 探究多模态融合中的架构选择，包括消息传递机制与网络深度，以实现最佳性能。

提出的方法

• 使用三角化网格将蛋白质表示为三维分子表面，保留曲率与测地线等几何属性。
• 提出一种双部消息传递框架，实现在基于图的原子节点与基于表面的网格顶点之间的跨模态信息交换。
• 采用三种不同的消息传递机制：自注意力（Att.）、图卷积网络（GCN）与图注意力网络（GAT），并利用 Flash Attention 提升计算效率。
• 使用 DiffusionNet 作为表面编码器，以提升表面表征学习效果，替代先前工作中效果较差的 MeshCNN。
• 在最终预测头前，通过共享的可学习投影头融合两种模态的特征，用于下游任务。
• 通过调整网络深度（3 或 4 个模块）与消息传递策略进行消融实验，同时保持参数量恒定。

实验结果

研究问题

• RQ1 基于表面的表征方法是否能在蛋白质结构学习基准上与图或网格基方法相媲美？
• RQ2 结合图与表面表征如何提升蛋白质结构预测与结合位点分类任务的性能？
• RQ3 在混合图-表面架构中，哪种消息传递机制（如 GAT、GCN、自注意力）表现最佳？
• RQ4 更深的网络结构或跨模态注意力是否能增强模型捕捉蛋白质结构长程依赖关系的能力？
• RQ5 统一且可学习的架构是否能超越顺序或并行融合策略，在多模态蛋白质表征学习中表现更优？

主要发现

• 尽管具有理论优势，纯表面基方法在 Atom3D 基准上仍表现逊色于图与网格基模型。
• 所提出的混合架构在所有测试任务中均达到最先进性能，包括 MSP（AuROC: 0.707）、PIP（AuROC: 0.859）与 PSR（AuROC: 0.833）。
• 基于 GAT 的双部消息传递机制在深度为 3 时表现最佳，尤其在 PSR 任务中显著优于表面单独模型。
• 自注意力机制（Att.）在多数任务中优于局部消息传递，表明长程信息流动对表面引导学习至关重要。
• 更深的网络（4 个模块）在 PIP 与 PSR 任务中提升性能，表明增加容量有助于在混合设置中优化特征提炼。
• 顺序与并行融合基线表现欠佳，表明简单融合策略次优，且架构设计对成功至关重要。