[论文解读] Assigning function to protein-protein interactions: a weakly supervised BioBERT based approach using PubMed abstracts

Aparna Elangovan, Melissa B. Davis+1 more|arXiv (Cornell University)|Aug 19, 2020

Biomedical Text Mining and Ontologies被引用 7

一句话总结

该论文提出了一种基于弱监督的BioBERT模型PPI-BioBERT，通过挖掘PubMed摘要，自动为蛋白质-蛋白质相互作用（PPIs）分配功能类型。通过扫描1800万篇摘要，该方法识别出3,253个新的功能类型PPIs，总体精确率为46%（乙酰化为87%），显著扩展了IntAct等数据库中的已注释PPIs。

ABSTRACT

Motivation: Protein-protein interactions (PPI) are critical to the function of proteins in both normal and diseased cells, and many critical protein functions are mediated by interactions.Knowledge of the nature of these interactions is important for the construction of networks to analyse biological data. However, only a small percentage of PPIs captured in protein interaction databases have annotations of function available, e.g. only 4% of PPI are functionally annotated in the IntAct database. Here, we aim to label the function type of PPIs by extracting relationships described in PubMed abstracts. Method: We create a weakly supervised dataset from the IntAct PPI database containing interacting protein pairs with annotated function and associated abstracts from the PubMed database. We apply a state-of-the-art deep learning technique for biomedical natural language processing tasks, BioBERT, to build a model - dubbed PPI-BioBERT - for identifying the function of PPIs. In order to extract high quality PPI functions at large scale, we use an ensemble of PPI-BioBERT models to improve uncertainty estimation and apply an interaction type-specific threshold to counteract the effects of variations in the number of training samples per interaction type. Results: We scan 18 million PubMed abstracts to automatically identify 3253 new typed PPIs, including phosphorylation and acetylation interactions, with an overall precision of 46% (87% for acetylation) based on a human-reviewed sample. This work demonstrates that analysis of biomedical abstracts for PPI function extraction is a feasible approach to substantially increasing the number of interactions annotated with function captured in online databases.

研究动机与目标

• 为解决在IntAct中仅有4%的PPIs被功能注释这一关键空白问题。
• 开发一种可扩展的方法，利用PubMed摘要中的文本信息自动为PPIs分配功能类型（如磷酸化、乙酰化等）。
• 通过利用弱监督和集成学习，克服PPI功能分类中的数据稀缺和类别不平衡问题。
• 通过在深度学习框架中采用交互类型特异性阈值，提升不确定性估计和分类性能。

提出的方法

• 通过将IntAct数据库中的PPIs与其对应的PubMed摘要关联，构建弱监督数据集。
• 在已知功能类型的PPIs精选数据集上微调BioBERT，以构建PPI-BioBERT模型。
• 使用PPI-BioBERT模型的集成，以提升预测的不确定性和鲁棒性。
• 应用交互类型特异性分类阈值，缓解因不同功能类型训练样本不平衡导致的性能下降。
• 利用集成模型扫描1800万篇PubMed摘要，以提取新型功能类型PPIs。
• 通过人工审查代表性样本验证预测结果，以评估精确率和可靠性。

实验结果

研究问题

• RQ1 在PubMed摘要上使用弱监督深度学习是否能有效识别并分类蛋白质-蛋白质相互作用的功能类型？
• RQ2 基于BioBERT的模型在训练样本有限的低资源PPI功能类型上，其泛化能力如何？
• RQ3 集成建模和类型特异性阈值在不同PPI功能类别中如何提升预测的可靠性和精确率？
• RQ4 在大规模生物医学文献语料上应用时，自动化PPI功能提取的可扩展性和准确性如何？

主要发现

• 该模型成功从1800万篇PubMed摘要中提取出3,253个新型功能类型PPIs，显著扩展了已注释的PPIs。
• 基于人工审查样本的预测总体精确率为46%，表明其在大规模应用中具有可靠的性能。
• 对于乙酰化相互作用，精确率达到87%，表明在特定且表达充分的功能类型上表现强劲。
• 集成建模的使用改善了不确定性估计，增强了模型在低置信度预测中的可靠性。
• 类型特异性阈值有效缓解了因不同相互作用类型间训练数据不平衡导致的性能波动。
• 该方法在大规模PPI功能注释中具有可行性，为人工注释提供了一种可扩展的替代方案。