[논문 리뷰] Harnessing Preference Optimisation in Protein LMs for Hit Maturation in Cell Therapy

Katarzyna Janocha, Alan C. H. Ling외 4명|arXiv (Cornell University)|2024. 12. 02.

Viral Infectious Diseases and Gene Expression in Insects인용 수 4

한 줄 요약

이 논문은 치미어릭 항원 수용체(CAR) 치료에서 히트 성숙을 가속화하기 위해 고속 실험 데이터에서 단백질 언어 모델(PLM)의 선호도 미세조정을 제안한다. 수천 개의 CAR 변종이 세포 배양 실험에서 테스트된 데이터셋에서 유도된 선호도 데이터셋을 기반으로 자동회귀 PLM을 훈련시킴으로써, 예측된 손실과 생물학적 성능 간 강한 상관관계(r = -0.574)를 달성하여, 소수의 샘플로도 향상된 CAR 돌연변이를 효과적으로 탐색할 수 있다.

ABSTRACT

Cell and immunotherapy offer transformative potential for treating diseases like cancer and autoimmune disorders by modulating the immune system. The development of these therapies is resource-intensive, with the majority of drug candidates failing to progress beyond laboratory testing. While recent advances in machine learning have revolutionised areas such as protein engineering, applications in immunotherapy remain limited due to the scarcity of large-scale, standardised datasets and the complexity of cellular systems. In this work, we address these challenges by leveraging a high-throughput experimental platform to generate data suitable for fine-tuning protein language models. We demonstrate how models fine-tuned using a preference task show surprising correlations to biological assays, and how they can be leveraged for few-shot hit maturation in CARs. This proof-of-concept presents a novel pathway for applying ML to immunotherapy and could generalise to other therapeutic modalities.

연구 동기 및 목표

• 면역요법 분야에서 대규모 표준화된 데이터셋의 부족 문제를 해결하기 위해 수천 개의 CAR 변종에서 유도된 고속 실험 데이터를 생성한다.
• 선호도 최적화를 통해 미세조정된 단백질 언어 모델이 생물학적으로 관련 있는 CAR 성능을 예측할 수 있는지 탐색한다.
• 모델이 생성한 예측을 활용하여 서열 공간 탐색을 이끌어내어 CAR 설계에서 소수의 샘플로도 히트 성숙을 가능하게 한다.
• 해당 모델이 검증 세트에서 보류된 데이터셋에 대해 새로운 CAR 서열로 일반화 가능한지 평가한다.

제안 방법

• 고속 T세포 리포터 실험에서 확보한 실험 데이터를 기반으로 선호도 학습 목표를 사용해 사전 훈련된 자동회귀 단백질 언어 모델을 미세조정한다.
• 부모 CAR 대비 단일 및 이중 돌연변이의 상대적 성능(ΔGFP)을 비교하여 선호도 데이터셋을 구성한다.
• 부모 CAR 주변의 서열 공간을 탐색하기 위해 다양성 인식 생성 함수를 사용한 탐욕적 탐색을 수행하며, 후보 돌연변이를 생성한다.
• 훈련 및 검증 세트에서 모델 손실과 실험적 ΔGFP 값 간의 상관관계를 분석하여 모델 예측 성능을 평가한다.
• 고속 실험 데이터에서 발생하는 플레이트별 편향을 보정하기 위해 정규화를 적용한다.
• 각 위치에서 상위-k 아미노산 치환을 선택하는 재귀적 생성 함수를 사용하며, 유효성 필터를 통해 유효한 서열을 보장한다.

Figure 1: CAR structure with scFV and VHH binding domains (see text for details).

실험 결과

연구 질문

• RQ1 선호도 학습을 통해 미세조정된 단백질 언어 모델이 CAR-T 세포 치료에서 생물학적으로 관련 있는 성능 향상을 예측할 수 있는가?
• RQ2 모델 손실이 고속 실험에서 실제 실험 읽기값(ΔGFP)과 얼마나 잘 상관되는가?
• RQ3 모델이 소수의 샘플로도 서열 공간을 효과적으로 탐색하여 우수한 CAR 돌연변이를 탐색할 수 있는가?
• RQ4 모델이 검증 세트에서 볼 수 없는 새로운 CAR 서열로 일반화 가능한가?
• RQ5 모델이 높은 성능의 돌연변이를 탐색하는 데 영향을 미치는 요인은 무엇이며, 성능 향상의 원인은 생물학적 구조일까, 데이터셋의 오염 요인일까?

주요 결과

• 미세조정된 PLM는 모델 손실과 실험적 T세포 리포터 활성화(ΔGFP) 사이에 강한 음의 피어슨 상관계수(r = -0.574)를 보이며, 이는 예측 능력을 시사한다.
• Candidate 1의 경우 상관계수는 더욱 높아(r = -0.699) 사전 훈련된 모델 대비 미세조정으로 상관계수 향상이 뚜렷하게 나타났다(0.218에서 -0.699로 변화).
• 탐욕적 탐색과 완전 탐색 모두 부모 CAR보다 뛰어난 돌연변이를 식별하였으며, 몇몇 돌연변이는 성능이 두 배 이상 향상되었다.
• 부모 서열 10개 중 7개에서 최소한 한 개의 돌연변이가 부모를 초월하는 성능을 보였으며, 검증 세트(S8–S10)에서도 동일한 경향을 보여 일반화 능력을 시사한다.
• 모델의 예측 성능는 Candidate 1에 비해 Candidate 2에서 낮지만, 그 원인(생물학적 요인 또는 데이터 관련 요인)은 명확하지 않다.
• 완전 탐색은 탐욕적 탐색보다 더 좋은 결과를 도출하였으며, 이는 높은 계산 비용에도 불구하고 철저한 탐색의 중요성을 강조한다.

Figure 2: Simplified candidate generation pipeline. Using phage display based on a highly diverse starting library we screen for binders to the target of interest using phage display. Resulting candidates are evaluated in cells in scalable proprietary assays.