[논문 리뷰] Generative De Novo Protein Design with Global Context

Cheng Tan, Zhangyang Gao외 3명|arXiv (Cornell University)|2022. 04. 21.

Protein Structure and Dynamics인용 수 13

한 줄 요약

이 논문은 단백질 프레임워크의 국소적이고 장거리 구조적 의존성을 모두 포착하기 위해 국소 메시지 전파와 글로벌 자기주의 주의 메커니즘을 통합한 새로운 생성형 탈신생 단백질 설계 방법인 GCA를 제안한다. 트랜스포머 기반 모듈을 통해 글로벌 맥락을 명시적으로 모델링함으로써, GCA는 구조 기반 단백질 설계 벤치마크에서 최신 기술 수준의 성능을 달성하여, 특히 단쇄 및 단일 체인 단백질에서 시퀀스 퍼즐리티와 잔류물 복구 정확도 측면에서 이전 방법들을 능가한다.

ABSTRACT

The linear sequence of amino acids determines protein structure and function. Protein design, known as the inverse of protein structure prediction, aims to obtain a novel protein sequence that will fold into the defined structure. Recent works on computational protein design have studied designing sequences for the desired backbone structure with local positional information and achieved competitive performance. However, similar local environments in different backbone structures may result in different amino acids, indicating that protein structure's global context matters. Thus, we propose the Global-Context Aware generative de novo protein design method (GCA), consisting of local and global modules. While local modules focus on relationships between neighbor amino acids, global modules explicitly capture non-local contexts. Experimental results demonstrate that the proposed GCA method outperforms state-of-the-arts on de novo protein design. Our code and pretrained model will be released.

연구 동기 및 목표

• 기존 단백질 설계 방법이 국소적 주변 정보에만 의존하여 다양한 구조적 환경에서의 아미노산 선호도의 맥락 의존성을 포착하지 못하는 한계를 해결하기 위해.
• 자기주의 주의 메커니즘을 사용하여 단백질 구조 내 비국소적, 장거리 의존성을 명시적으로 모델링하여 단백질 시퀀스 생성을 향상시키기 위해.
• 국소 그래프 주의와 글로벌 트랜스포머 기반 주의를 통합한 통합 생성 프레임워크를 개발하여 구조적 맥락 인식 능력을 향상시키기 위해.
• 특히 국소 특징이 희박한 단쇄 및 단일 체인 단백질과 같은 도전적인 설정에서 표준 단백질 설계 벤치마크에서 뛰어난 성능을 입증하기 위해.

제안 방법

• 단백질 구조를 백본 이황각(ϕ, ψ, ω)으로부터 추출된 특징을 3-토러스에 인코딩한 노드 특징을 가진 기하학적 그래프로 표현한다.
• 엣지 특징은 Cα-Cα 거리의 가우시안 라디얼 기저 함수와 局소 좌표계 내의 회전 불변 방향 벡터를 사용하여 계산된다.
• 국소 모듈은 K-최근접 이웃에서 메시지를 집계하는 그래프 주의 네트워크를 사용하여 즉각적인 공간 관계를 포착한다.
• 글로벌 모듈은 트랜스포머 스타일 자기주의 주의를 사용하여 모든 잔류물 간의 장거리 의존성을 명시적으로 모델링함으로써 맥락 인식 시퀀스 예측을 가능하게 한다.
• 모델 아키텍처는 인코더와 디코더 모두에 국소 및 글로벌 모듈을 3개의 블록으로 조합하며, 히든 차원은 128이며 고정 학습률로 Adam을 사용해 훈련한다.
• 시퀀스 생성은 자동적으로 순차적으로 수행되며, 손실은 구조를 조건으로 삼은 예측된 아미노산 확률에 대한 교차 엔트로피로 계산된다.

실험 결과

연구 질문

• RQ1 글로벌 구조적 맥락을 명시적으로 모델링하면 국소 주변 의존성 외에도 단백질 시퀀스 생성 성능을 향상시킬 수 있는가?
• RQ2 전체 단백질 구조에 걸쳐 자기주의 주의를 통합하면 단쇄 또는 단일 체인 단백질 설계 성능에 어떤 영향을 미치는가?
• RQ3 하이브리드 국소-글로벌 주의 메커니즘이 순수하게 국소 메시지 전파 또는 글로벌 주의에 의존하는 모델보다 우월한가?
• RQ4 표준 벤치마크인 CATH 4.2 및 TS50에서 GCA는 최신 기술 수준의 방법들과 비교해 어떻게 성능을 내는가?
• RQ5 짧은 시퀀스와 같은 정보가 적은 설정에서 글로벌 맥락이 성능 저하를 어느 정도 완화하는가?

주요 결과

• CATH 4.2 데이터셋에서 GCA는 'All' 세트에서 가장 낮은 퍼즐리티(6.44)를 기록하여 StructGNN(6.69) 및 StructTrans(7.14)와 유의미하게 높은 성능을 내었다.
• CATH 4.2 'All' 세트에서 GCA는 가장 높은 잔류물 복구율(36.11%)을 기록하여 StructTrans(33.90%) 및 StructGNN(35.25%)를 능가했으며, 이는 개별 잔류물 예측 정확도 향상을 시사한다.
• 도전적인 TS50 벤치마크에서 GCA는 복구율 47.0%를 기록하여 Rosetta(30.0%), SPIN2(33.6%), GVP(44.1%)를 모두 능가했으며, 최신 기술 수준의 성능을 입증했다.
• GCA는 'Short' 및 'Single chain' 세트를 포함한 모든 데이터 분할에서 일관된 성능을 보였으며, 다른 모델들이 과적합되거나 성능이 저하되는 상황에서도 안정성을 유지하여 글로벌 맥락 모델링의 강건성을 입증했다.
• 짧은 시퀀스에서 국소 특징이 희박한 상황에서도 글로벌 모듈이 성능 향상에 기여했으며, 이는 장거리 맥락이 국소 정보의 부족을 상쇄함을 확인한다.