[论文解读] ProLanGO: Protein Function Prediction Using Neural~Machine Translation Based on a Recurrent Neural Network

Renzhi Cao, Colton Freitas+4 more|arXiv (Cornell University)|Oct 19, 2017

RNA and protein synthesis mechanisms参考文献 41被引用 15

一句话总结

本文提出ProLanGO，一种新颖的神经机器翻译方法，将蛋白质功能预测问题重新定义为从新定义的蛋白质序列语言（ProLan）到基因本体语言（GOLan）的语言翻译任务。基于循环神经网络的神经机器翻译模型在CAFA 3基准测试中表现出色，证明了将神经机器翻译应用于生物序列功能预测的可行性，其结果优于基线模型，展现出未来发展的潜力。

ABSTRACT

With the development of next generation sequencing techniques, it is fast and cheap to determine protein sequences but relatively slow and expensive to extract useful information from protein sequences because of limitations of traditional biological experimental techniques. Protein function prediction has been a long standing challenge to fill the gap between the huge amount of protein sequences and the known function. In this paper, we propose a novel method to convert the protein function problem into a language translation problem by the new proposed protein sequence language "ProLan" to the protein function language "GOLan", and build a neural machine translation model based on recurrent neural networks to translate "ProLan" language to "GOLan" language. We blindly tested our method by attending the latest third Critical Assessment of Function Annotation (CAFA 3) in 2016, and also evaluate the performance of our methods on selected proteins whose function was released after CAFA competition. The good performance on the training and testing datasets demonstrates that our new proposed method is a promising direction for protein function prediction. In summary, we first time propose a method which converts the protein function prediction problem to a language translation problem and applies a neural machine translation model for protein function prediction.

研究动机与目标

• 为解决可用蛋白质序列数量与实验注释功能数量之间日益扩大的差距。
• 开发一种新型深度学习方法，直接从氨基酸序列预测蛋白质功能，而无需依赖外部数据库或特征。
• 探索将蛋白质功能预测重新表述为神经机器翻译问题的可行性。
• 在真实世界基准（包括CAFA 3和竞赛后数据集）上评估所提方法的性能。
• 将ProLanGO的性能与现有最先进方法进行比较，并识别改进方向。

提出的方法

• 该方法提出一种基于k-mer频率（k=3至5）的新蛋白质序列语言ProLan，涵盖约50万个蛋白质序列，将每个k-mer编码为一个标记。
• 将基因本体（GO）术语编码到称为GOLan的语言空间中，每个GO术语使用最多四个字母表示，以保留GO有向无环图中的层次关系。
• 训练基于循环神经网络（RNNs）的编码器-解码器神经机器翻译模型，实现从ProLan序列到GOLan术语的翻译。
• 模型采用注意力机制，并在蛋白质序列-GO术语对上进行端到端训练，结合分桶技术以处理序列长度差异。
• 该方法结合标准NMT与扩展NMT变体，以提升多标签预测任务的性能。
• 采用标准指标（如基于阈值的和top-n GO相似性）评估性能，并与SMISS、DeepGO、FANN-GO及其他最先进模型进行比较。

实验结果

研究问题

• RQ1 蛋白质功能预测能否被有效重构为蛋白质序列语言与功能术语语言之间的神经机器翻译任务？
• RQ2 序列到序列NMT模型在蛋白质功能预测中的性能与传统多标签分类和概率模型相比如何？
• RQ3 k-mer频率与GO术语编码在多大程度上保留了生物学语义，以支持基于翻译的预测？
• RQ4 ProLanGO在真实世界基准（如CAFA 3和竞赛后数据集）上的表现如何，相较于最先进方法？
• RQ5 当前模型的局限性是什么，特别是在前1名GO术语预测的排序方面？

主要发现

• 在CAFA 3测试集上，ProLanGO在精确率和召回率方面均优于标准NMT和扩展NMT模型。
• 在基于阈值的指标上，模型性能与DeepGO模型相当，尤其在0.10至0.80的阈值范围内表现优异。
• 对于高于0.10的阈值，FANN-GO优于ProLanGO，表明在预测前1名GO术语方面仍有改进空间。
• ProLanGO优于SMISS模型的SEQ评分，证明其在基线方法上的优势。
• 模型在前1名GO术语预测方面表现较差，可能由于RNN输出中缺乏显式排序机制，提示未来需改进术语排序方法。
• 尽管尚未达到顶级同源方法的性能，该方法仍具潜力，未来通过交叉验证、更大k-mer尺寸以及更具生物学意义的序列分段等改进，有望进一步提升准确性。