[论文解读] Deep Learning Methods for Protein Family Classification on PDB Sequencing Data

Aaron Wang|arXiv (Cornell University)|Jul 14, 2022

Machine Learning in Bioinformatics被引用 6

一句话总结

本研究评估了深度学习模型——特别是双向LSTM和卷积神经网络（CNN）——在使用蛋白质数据银行（PDB）的蛋白质一级序列数据对蛋白质进行家族分类中的表现。CNN架构在准确率方面优于经典机器学习方法和LSTM模型，展现出从氨基酸序列预测蛋白质家族归属的优越性能。

ABSTRACT

Composed of amino acid chains that influence how they fold and thus dictating their function and features, proteins are a class of macromolecules that play a central role in major biological processes and are required for the structure, function, and regulation of the body's tissues. Understanding protein functions is vital to the development of therapeutics and precision medicine, and hence the ability to classify proteins and their functions based on measurable features is crucial; indeed, the automatic inference of a protein's properties from its sequence of amino acids, known as its primary structure, remains an important open problem within the field of bioinformatics, especially given the recent advancements in sequencing technologies and the extensive number of known but uncategorized proteins with unknown properties. In this work, we demonstrate and compare the performance of several deep learning frameworks, including novel bi-directional LSTM and convolutional models, on widely available sequencing data from the Protein Data Bank (PDB) of the Research Collaboratory for Structural Bioinformatics (RCSB), as well as benchmark this performance against classical machine learning approaches, including k-nearest neighbors and multinomial regression classifiers, trained on experimental data. Our results show that our deep learning models deliver superior performance to classical machine learning methods, with the convolutional architecture providing the most impressive inference performance.

研究动机与目标

• 为解决仅基于氨基酸序列对数百万条未标注蛋白质进行功能家族分类的挑战。
• 评估深度学习模型是否能在PDB序列数据上超越经典机器学习技术在蛋白质家族分类中的表现。
• 研究循环神经网络（LSTM）与卷积神经网络（CNN）在建模蛋白质序列数据方面的相对性能。
• 识别数据质量与模型可解释性方面的局限性，这些局限性尽管预测准确率高，但仍阻碍生物学洞察的获得。

提出的方法

• 训练双向长短期记忆网络（LSTM）以建模蛋白质一级结构中的序列依赖关系。
• 实现具有多个卷积块、批量归一化、Dropout和ReLU激活的卷积神经网络（CNN），以提取局部和全局序列模式。
• 在相同的PDB数据集上，将深度学习模型与经典机器学习方法（包括k近邻（k-NN）和多项式逻辑回归）进行基准对比。
• 使用独热编码的氨基酸序列作为输入特征，以蛋白质家族作为目标标签，共10个类别。
• 应用早停法和学习率调度以防止过拟合，尽管正则化手段有限。
• 通过在学习率和优化器选择上进行网格搜索，使用验证集和测试集的准确率评估模型性能，并进行超参数调优。

实验结果

研究问题

• RQ1 与经典机器学习方法相比，深度学习模型在PDB序列数据上的蛋白质家族分类准确率是否显著提升？
• RQ2 在蛋白质序列分类任务中，哪种深度学习架构——双向LSTM还是CNN——表现更优？其原因是什么？
• RQ3 数据质量问题（如结晶温度仅保留一位小数的低精度测量）如何影响模型性能，特别是对k-NN和多项式回归的影响？
• RQ4 过拟合与可解释性差在多大程度上限制了高准确率深度学习模型在生物分类任务中的实际应用价值？
• RQ5 数据增强技术（如对少数类进行随机过采样）是否能提升模型性能，特别是在蛋白质家族数据不平衡的情况下？

主要发现

• 卷积神经网络（CNN）在所有测试模型中取得了最高的推理准确率，优于双向LSTM和经典机器学习方法。
• CNN模型的训练准确率约为0.95，验证准确率约为0.80，表明其在序列数据上具有强大的学习能力。
• 双向LSTM模型的训练准确率为0.94，验证准确率为0.80，性能与CNN相当但略低。
• k-NN等经典模型表现较差，且随着k值增大，准确率下降，表明基于邻近相似性的方法因数据稀疏性和测量精度问题而效果不佳。
• 多项式回归模型倾向于预测多数类，表明类别不平衡和低精度特征削弱了其区分不同蛋白质家族的能力。
• 两种深度学习模型均在前五个训练周期内迅速收敛，提示由于模型复杂度高且参数量达数百万，而数据集规模相对较小，可能存在过拟合风险。