[论文解读] Enhancing Protein Predictive Models via Proteins Data Augmentation: A Benchmark and New Directions

Rui Sun, Lirong Wu+3 more|arXiv (Cornell University)|Mar 1, 2024

Gene expression and cancer classificationBiochemistry, Genetics and Molecular Biology被引用 3

一句话总结

本文提出自动化蛋白质增强（APA），一种自适应选择蛋白质预测模型最优数据增强策略的框架。通过将图像和文本增强技术扩展至蛋白质领域，并引入两种语义级方法——梯度积分替换与反向翻译替换，APA 在五个蛋白质任务上的性能平均提升 10.55%，相较于无增强的基线模型。

ABSTRACT

Augmentation is an effective alternative to utilize the small amount of labeled protein data. However, most of the existing work focuses on design-ing new architectures or pre-training tasks, and relatively little work has studied data augmentation for proteins. This paper extends data augmentation techniques previously used for images and texts to proteins and then benchmarks these techniques on a variety of protein-related tasks, providing the first comprehensive evaluation of protein augmentation. Furthermore, we propose two novel semantic-level protein augmentation methods, namely Integrated Gradients Substitution and Back Translation Substitution, which enable protein semantic-aware augmentation through saliency detection and biological knowledge. Finally, we integrate extended and proposed augmentations into an augmentation pool and propose a simple but effective framework, namely Automated Protein Augmentation (APA), which can adaptively select the most suitable augmentation combinations for different tasks. Extensive experiments have shown that APA enhances the performance of five protein related tasks by an average of 10.55% across three architectures compared to vanilla implementations without augmentation, highlighting its potential to make a great impact on the field.

研究动机与目标

• 解决蛋白质序列建模中数据增强这一研究不足的领域，其中标注数据稀缺。
• 基准化已适配至蛋白质序列的图像与文本增强技术，评估其有效性。
• 提出新颖的语义级增强方法，在生成有意义变异的同时保留生物功能。
• 开发自动化框架 APA，动态选择适用于多样化任务与模型架构的最佳增强组合。
• 证明自适应的、语义感知的增强可显著提升多种蛋白质相关任务中的模型泛化能力与性能。

提出的方法

• 将图像与文本增强技术（如随机掩码、标记洗牌、反向翻译）适配为蛋白质序列专用方法。
• 提出梯度积分替换，通过梯度归因识别蛋白质序列中的显著区域，并用生物学上合理的替代物进行替换。
• 提出反向翻译替换，利用从mRNA序列到蛋白质序列的逆向翻译生成具有生物学意义的变异。
• 构建一个综合的蛋白质增强池，整合标记级、序列级与语义级方法。
• 设计 APA，一种元学习框架，利用验证准确率自动选择并组合每项任务与模型架构下最有效的增强策略。
• 集成批量归一化与消融分析，以验证各组件的贡献并确保训练稳定性。

实验结果

研究问题

• RQ1 当直接应用于蛋白质序列时，现有的图像与文本增强技术效果如何？
• RQ2 利用显著性图与生物学知识的语义级增强方法能否提升蛋白质模型性能？
• RQ3 自动化选择增强组合在多大程度上能提升多样化蛋白质任务与架构中的模型泛化能力？
• RQ4 各组件（如梯度积分替换与批量归一化）对整体性能提升的贡献如何？
• RQ5 APA 如何影响训练动态，包括收敛速度与最终准确率？

主要发现

• 与无增强的基线模型相比，APA 在三种深度学习架构上，使五个蛋白质相关任务的平均性能提升 10.55%。
• 消融研究显示，移除梯度积分替换导致性能显著下降，其中亚细胞定位准确率从 88.26% 降至 83.16%，下降 2.29%。
• 热力图可视化显示，显著性区域在训练过程中动态变化，证实梯度积分替换实现了自适应、上下文感知的增强。
• APA 加速了模型收敛，并在亚细胞定位任务中，于 50 个训练周期内始终取得高于基线 LSTM 的测试准确率。
• 移除批量归一化导致亚细胞定位准确率下降 1.82%（从 88.26% 降至 84.99%），表明其在训练稳定性中的关键作用。
• 反向翻译替换展现出强大的语义保持能力，生成的生物上合理的变异在维持功能相关性的同时增强了模型鲁棒性。