[论文解读] Harnessing Preference Optimisation in Protein LMs for Hit Maturation in Cell Therapy

Katarzyna Janocha, Alan C. H. Ling+4 more|arXiv (Cornell University)|Dec 2, 2024

Viral Infectious Diseases and Gene Expression in Insects被引用 4

一句话总结

本文提出在高通量实验数据上对蛋白质语言模型（PLM）进行偏好微调，以加速嵌合抗原受体（CAR）疗法中的hit成熟过程。通过在数千种CAR变体经细胞实验测定的偏好数据集上微调一个自回归PLM，模型在预测损失与生物性能之间实现了较强的负相关性（r = -0.574），从而实现高效的少样本CAR突变体发现。

ABSTRACT

Cell and immunotherapy offer transformative potential for treating diseases like cancer and autoimmune disorders by modulating the immune system. The development of these therapies is resource-intensive, with the majority of drug candidates failing to progress beyond laboratory testing. While recent advances in machine learning have revolutionised areas such as protein engineering, applications in immunotherapy remain limited due to the scarcity of large-scale, standardised datasets and the complexity of cellular systems. In this work, we address these challenges by leveraging a high-throughput experimental platform to generate data suitable for fine-tuning protein language models. We demonstrate how models fine-tuned using a preference task show surprising correlations to biological assays, and how they can be leveraged for few-shot hit maturation in CARs. This proof-of-concept presents a novel pathway for applying ML to immunotherapy and could generalise to other therapeutic modalities.

研究动机与目标

• 通过从数千种CAR变体中生成高通量实验数据，解决免疫治疗领域大规模、标准化数据集稀缺的问题。
• 探究通过偏好优化微调的蛋白质语言模型是否能够预测与生物学相关的CAR性能。
• 通过利用模型生成的预测结果引导序列空间探索，实现在CAR设计中的少样本hit成熟。
• 评估此类模型在未见CAR序列上的泛化能力，并在保留的验证集上验证其预测性能。

提出的方法

• 在高通量T细胞报告基因实验的实验数据上，使用偏好学习目标对预训练的自回归蛋白质语言模型进行微调。
• 通过比较单突变体和双突变体相对于其父本CAR的相对性能（ΔGFP），构建偏好数据集。
• 使用具有多样性感知的生成函数进行贪婪搜索，探索父本CAR周围的序列空间，生成候选突变体。
• 通过比较模型损失与训练集和验证集中实验测得的ΔGFP值，评估模型预测性能。
• 对数据进行归一化处理，以校正高通量实验数据中板间特异性偏差。
• 使用递归生成函数，在可变结构域的每个位置选择top-k氨基酸替换，通过有效性过滤器确保生成序列的有效性。

Figure 1: CAR structure with scFV and VHH binding domains (see text for details).

实验结果

研究问题

• RQ1 通过偏好学习微调的蛋白质语言模型能否预测CAR-T细胞治疗中具有生物学意义的性能提升？
• RQ2 模型损失与高通量实验检测结果（ΔGFP）的相关性如何？
• RQ3 该模型能否有效引导少样本序列空间探索，以发现性能更优的CAR突变体？
• RQ4 该模型在未见CAR序列上的泛化能力如何？
• RQ5 影响模型发现高性能突变体能力的因素有哪些？性能提升是由生物学结构驱动，还是由数据集中的伪影引起？

主要发现

• 微调后的PLM在模型损失与实验测得的T细胞报告基因激活水平（ΔGFP）之间表现出强烈的负皮尔逊相关性（r = -0.574），表明其具备良好的预测能力。
• 对于候选1，相关性更强（r = -0.699），且微调显著提升了相关性（从预训练模型的r = 0.218提升至r = -0.699）。
• 贪婪搜索与穷举搜索均识别出性能优于父本CAR的突变体，其中多个突变体性能提升超过一倍。
• 在10个测试序列中，每个父本序列至少有一个突变体表现优于其父本，包括在验证集（S8–S10）中的表现，表明模型具备泛化能力。
• 尽管原因尚不明确，模型对候选1的预测性能优于候选2。
• 穷举搜索的结果优于贪婪搜索，凸显了全面探索的重要性，尽管计算成本更高。

Figure 2: Simplified candidate generation pipeline. Using phage display based on a highly diverse starting library we screen for binders to the target of interest using phage display. Resulting candidates are evaluated in cells in scalable proprietary assays.