[论文解读] ProLLM: Protein Chain-of-Thoughts Enhanced LLM for Protein-Protein Interaction Prediction

Mingyu Jin, Haochen Xue+6 more|arXiv (Cornell University)|Mar 30, 2024

Bioinformatics and Genomic Networks被引用 4

一句话总结

本文提出 ProLLM，一种通过蛋白质思维链（ProCoT）提示增强的大语言模型框架，通过将生物信号通路建模为自然语言推理链，以预测蛋白质-蛋白质相互作用（PPI）。ProCoT 使模型能够捕捉超越直接物理结合的间接、多步蛋白质相互作用，在基准数据集上显著提升了预测准确率和泛化能力，优于现有方法。

ABSTRACT

The prediction of protein-protein interactions (PPIs) is crucial for understanding biological functions and diseases. Previous machine learning approaches to PPI prediction mainly focus on direct physical interactions, ignoring the broader context of nonphysical connections through intermediate proteins, thus limiting their effectiveness. The emergence of Large Language Models (LLMs) provides a new opportunity for addressing this complex biological challenge. By transforming structured data into natural language prompts, we can map the relationships between proteins into texts. This approach allows LLMs to identify indirect connections between proteins, tracing the path from upstream to downstream. Therefore, we propose a novel framework ProLLM that employs an LLM tailored for PPI for the first time. Specifically, we propose Protein Chain of Thought (ProCoT), which replicates the biological mechanism of signaling pathways as natural language prompts. ProCoT considers a signaling pathway as a protein reasoning process, which starts from upstream proteins and passes through several intermediate proteins to transmit biological signals to downstream proteins. Thus, we can use ProCoT to predict the interaction between upstream proteins and downstream proteins. The training of ProLLM employs the ProCoT format, which enhances the model's understanding of complex biological problems. In addition to ProCoT, this paper also contributes to the exploration of embedding replacement of protein sites in natural language prompts, and instruction fine-tuning in protein knowledge datasets. We demonstrate the efficacy of ProLLM through rigorous validation against benchmark datasets, showing significant improvement over existing methods in terms of prediction accuracy and generalizability. The code is available at: https://github.com/MingyuJ666/ProLLM.

研究动机与目标

• 解决现有 PPI 预测方法仅关注直接物理相互作用、忽略间接通路连接的局限性。
• 开发一种新颖框架，利用大语言模型（LLMs）将复杂的、顺序性的蛋白质信号通路建模为自然语言推理链。
• 通过整合蛋白质特异性嵌入和在生物知识数据集上的指令微调，提升 PPI 预测性能。
• 评估 ProCoT 在捕捉传统模型所遗漏的累积性、多步蛋白质相互作用方面的有效性。
• 证明当使用具有生物意义的推理结构进行提示时，大语言模型可在 PPI 预测中超越图神经网络和卷积神经网络模型。

提出的方法

• 提出 ProCoT（蛋白质思维链）作为自然语言提示格式，将信号通路表示为从上游到下游蛋白质的逐步推理序列。
• 该框架将蛋白质相互作用数据转换为结构化自然语言提示，以编码生物信号转导的顺序逻辑。
• 整合来自 ProtTrans 的蛋白质特异性嵌入，以保留序列层面的生物学信息。
• 利用精选的蛋白质知识数据集进行指令微调，以增强模型对 PPI 推理的能力。
• 评估多种 LLM 主干模型（Flan-T5-base、Flan-T5-large、Flan-T5-XL、LLaMA-v1-7b），以评估性能与稳定性。
• 消融研究分离了 ProCoT、嵌入替换和指令微调的贡献，以量化其对预测性能的影响。

实验结果

研究问题

• RQ1 将蛋白质信号通路建模为自然语言推理链（ProCoT）是否能提升 PPI 预测性能，超越直接相互作用检测？
• RQ2 蛋白质特异性嵌入与指令微调的整合如何影响模型在多样化 PPI 数据集上的泛化能力？
• RQ3 与嵌入替换和指令微调等其他组件相比，ProCoT 在提升模型性能方面的相对贡献如何？
• RQ4 使用思维链提示的大语言模型是否在 PPI 预测任务中优于传统的图神经网络和卷积神经网络方法？
• RQ5 ProLLM 框架在多个大小和生物学背景各异的基准数据集上是否表现出稳定性和泛化能力？

主要发现

• 采用 Flan-T5-large 主干的 ProLLM 在 STRING 数据集上取得了 87.12 ± 1.68 的最高微 F1 分数，优于所有其他模型和基线。
• 仅使用 ProCoT 提示格式便带来了显著的性能提升，微 F1 从无 ProCoT 时的 78.32 ± 2.65 提升至全部组件使用时的 91.03 ± 1.63。
• 消融研究证实，ProCoT 对性能的提升最为显著，在 Human 数据集上相比无 ProCoT 的基线，微 F1 提升了 12.7 个百分点。
• Flan-T5-large 表现最佳，优于更大的 LLaMA-v1-7b 模型，后者表现出更高的不稳定性与更低的准确率。
• 指令微调与嵌入替换虽有积极贡献，但其影响小于 ProCoT，表明推理结构是性能提升的主要驱动力。
• 该模型展现出强大的泛化能力，在所有四个基准数据集（Human、SHS27K、SHS148K 和 STRING）上均取得了高微 F1 分数。