[논문 리뷰] TERMinator: A Neural Framework for Structure-Based Protein Design using Tertiary Repeating Motifs

Alex J. Li, Vikram Sundar외 2명|arXiv (Cornell University)|2022. 04. 27.

Machine Learning in Bioinformatics인용 수 7

한 줄 요약

TERMinator는 구조 기반 단백질 설계 성능을 향상시키기 위해 삼차원 반복 모티프(TERMs)와 기저막 좌표 특징을 그래프 신경망에 통합하는 새로운 딥러닝 프레임워크이다. 통계적 TERM 기반의 서열-구조 관계와 기하학적 좌표 데이터를 결합함으로써 TERMinator는 천연 서열 복원에서 최신 기술 수준(SOTA) 성능을 달성하였으며, 이는 TERM 특징이 최적 성능을 내기 위해 필수적임을 입증한다.

ABSTRACT

Computational protein design has the potential to deliver novel molecular structures, binders, and catalysts for myriad applications. Recent neural graph-based models that use backbone coordinate-derived features show exceptional performance on native sequence recovery tasks and are promising frameworks for design. A statistical framework for modeling protein sequence landscapes using Tertiary Motifs (TERMs), compact units of recurring structure in proteins, has also demonstrated good performance on protein design tasks. In this work, we investigate the use of TERM-derived data as features in neural protein design frameworks. Our graph-based architecture, TERMinator, incorporates TERM-based and coordinate-based information and outputs a Potts model over sequence space. TERMinator outperforms state-of-the-art models on native sequence recovery tasks, suggesting that utilizing TERM-based and coordinate-based features together is beneficial for protein design.

연구 동기 및 목표

• Tertiary Repeating Motifs(TERMs)를 좌표 기반 특징과 통합하여 구조 기반 단백질 설계 성능을 향상시키는 신경망 프레임워크를 개발하는 것.
• 좌표 기반 모델만으로는 부족한 성능 향상을 위해 TERM 유래 통계적 특징이 단백질 설계 성능을 향상시키는지 조사하는 것.
• 통합된 딥러닝 아키텍처에서 TERM 기반 특징과 좌표 기반 특징의 기여도를 평가하는 것.
• 하이브리드 구조적 특징화를 사용하여 단백질 서열 설계를 위한 확장 가능하고 종단 간(end-to-end) 프레임워크를 구축하는 것.

제안 방법

• TERMinator는 이중 단계 아키텍처를 사용한다: 지역 TERM 그래프를 메시지 전달 네트워크(TERM MPNN)를 통해 처리하는 TERM 정보 압축기와 k-최근접 이웃(k-NN) 그래프를 통해 전반적인 구조를 통합하는 GNN Potts 모델 인코더.
• TERM 특징는 각 TERM당 상위 50개의 PDB 매칭에서 유도되며, 임베딩은 매칭 간 어텐션 기반 풀링을 통해 생성되고, 엣지 임베딩은 가중치가 부여된 교공분산 행렬을 통해 계산된다.
• 모델은 TERM 기반의 구조 임베딩과 좌표 기반 특징(Ingraham 등에 의해 제안된 바)을 융합하여 서열 공간 상의 Potts 모델을 예측함으로써 잔여기 종류에 대한 확률적 스코어링을 가능하게 한다.
• 학습 중 복합 가짜우도 손실을 최소화하며, Potts 모델의 자기 상호작용 및 쌍 상호작용 항을 사용해 맥락적 잔여기 쌍의 에너지를 평가한다.
• 추론은 MCMC 시뮬레이션 냉각을 사용하여 학습된 Potts 모델로부터 최적의 서열을 생성한다.
• 제거 실험을 통해 TERM 특징, 좌표 특징, GNN 구성 요소의 기여도를 분리하여 개별 및 통합적 영향을 평가한다.

실험 결과

연구 질문

• RQ1 삼차원 반복 모티프(TERM) 기반의 통계적 특징과 강성 있는 좌표 기반 특징을 융합하면 단백질 서열 설계 성능이 향상되는가?
• RQ2 좌표 기반 특징만을 사용할 때와 비교해 TERM 유래 특징이 서열-구조 관계 모델링에 기여하는 방식은 무엇인가?
• RQ3 TERM 통합으로 인한 성능 향상은 다양한 단백질에서 반복되는 흐린(fuzzy) 구조적 패턴을 포착할 수 있는 능력 덕분인가?
• RQ4 GNN Potts 모델 인코더는 TERM 및 좌표 특징을 어떻게 활용하여 기존 모델보다 천연 서열 복원 성능을 뛰어나게 하는가?

주요 결과

• TERMinator는 CATH 4.2 벤치마크 데이터셋에서 천연 서열 복원 작업에서 최신 기술 수준(SOTA) 모델을 능가하는 최고의 성능을 달성하였다.
• 제거 실험 결과, TERM 기반 특징이 최적 성능을 내기 위해 필수적임을 확인하였으며, 이를 제거하면 성능이 크게 저하됨을 입증하였다.
• 단일 V100 GPU에서 평균 97ms의 추론 시간(1구조당, 61μs/잔여기)을 기록하여 효율적인 구현 잠재력을 보였다.
• GNN Potts 모델 인코더가 제거된 TERMinator의 변형은 dTERMen과 유사한 성능을 보였으며, 이는 두 모델 간의 기초 특징 세트가 유사함을 검증한다.
• TERM 및 좌표 특징의 융합은 복합 가짜우도 학습 목표치 향상으로 이어져 더 강력하고 정확한 Potts 모델을 생성함을 입증하였다.