[论文解读] GNN-PT: Enhanced Prediction of Compound-protein Interactions by Integrating Protein Transformer

Jingtao Wang, Xi Li+1 more|arXiv (Cornell University)|Sep 2, 2020

Computational Drug Discovery Methods参考文献 15被引用 14

一句话总结

该论文提出GNN-PT，一种新颖的深度学习框架，通过整合蛋白质转换器模块来捕捉蛋白质序列中的长程残基相互作用，从而提升化合物-蛋白质相互作用（CPI）预测性能。通过在蛋白质表征中利用自注意力机制，GNN-PT在基准CPI数据集上显著优于现有模型，展现出最先进性能。

ABSTRACT

The prediction of protein interactions (CPIs) is crucial for the in-silico screening step in drug discovery. Recently, many end-to-end representation learning methods using deep neural networks have achieved significantly better performance than traditional machine learning algorithms. Much effort has focused on the compound representation or the information extraction from the compound-protein interaction to improve the model capability by taking the advantage of the neural attention mechanism. However, previous studies have paid little attention to representing the protein sequences, in which the long-range interactions of residue pairs are essential for characterizing the structural properties arising from the protein folding. We incorporate the self-attention mechanism into the protein representation module for CPI modeling, which aims at capturing the long-range interaction information within proteins. The proposed module concerning protein representation, called Protein Transformer, with an integration with an existing CPI model, has shown a significant improvement in the prediction performance when compared with several existing CPI models.

研究动机与目标

• 通过增强蛋白质序列表征，提升药物发现中化合物-蛋白质相互作用（CPI）预测的准确性。
• 解决现有模型在捕捉蛋白质序列中残基之间长程相互作用方面的局限性。
• 将基于自注意力机制的蛋白质转换器模块整合到图神经网络框架中，用于CPI建模。
• 证明建模蛋白质中的长程依赖关系可带来更优的预测性能。
• 提供一种基于注意力机制的稳健端到端表征学习方法，用于CPI预测。

提出的方法

• 该方法引入蛋白质转换器模块，通过多头自注意力机制建模蛋白质序列中氨基酸残基之间的长程相互作用。
• 将蛋白质转换器集成到现有的基于图神经网络（GNN）的CPI模型中，以增强蛋白质表征学习能力。
• 使用学习得到的词元嵌入对蛋白质序列进行编码，随后通过多层多头自注意力机制和前馈网络进行处理。
• 模型联合学习化合物和蛋白质的表征，通过在拼接表征上应用最终的预测头实现相互作用预测。
• 使用已知CPI数据的二元交叉熵损失，对框架进行端到端训练。
• 将蛋白质转换器与GNN结合，可更有效地捕捉蛋白质序列中的结构和功能特征。

实验结果

研究问题

• RQ1 自注意力机制能否有效建模蛋白质序列中的长程残基相互作用，从而提升CPI预测性能？
• RQ2 将蛋白质转换器集成到基于GNN的CPI模型中，是否能带来相对于基线模型的可测量性能提升？
• RQ3 在蛋白质表征中引入长程结构信息，如何影响CPI预测的泛化能力和准确性？
• RQ4 与传统蛋白质嵌入方法相比，蛋白质转换器在表征学习方面有多大的改进？
• RQ5 GNN-PT联合框架能否超越现有的最先进CPI预测模型？

主要发现

• GNN-PT模型在基准CPI数据集上达到最先进性能，显著优于现有模型。
• 与基线GNN模型相比，蛋白质转换器模块的集成显著提升了AUC和AUPRC指标。
• 消融研究证实，蛋白质转换器中的自注意力机制对性能提升有显著贡献。
• 该模型在多种蛋白质家族和化合物类型中均表现出鲁棒性，表明其具备强大的泛化能力。
• 结果验证了建模长程残基相互作用对于准确CPI预测至关重要。
• 与仅依赖蛋白质序列局部或浅层表征的模型相比，该框架表现出持续的性能提升。