[논문 리뷰] G-VAE, a Geometric Convolutional VAE for ProteinStructure Generation

Hao Huang, Boulbaba Ben Amor외 3명|arXiv (Cornell University)|2021. 06. 22.

Protein Structure and Dynamics참고 문헌 30인용 수 6

한 줄 요약

이 논문은 3D 단백질 뒷줄기를 형태 공간에서 직접 모델링하기 위해 제곱근 속도 함수(SRVF) 표현과 딥 리더리드 네트워크를 활용하는 기하학적 변동 자동에코(G-VAE)를 소개한다. 3D 좌표를 기반으로 훈련하고 구형 잠재 공간에서 von Mises-Fisher 분포를 사용함으로써, G-VAE는 이전 방법보다 더 뛰어난 구조 연속성과 지측선 경로 효율성을 갖춘 새로운, 현실적인 단백질 구조를 생성하고 손상된 구조를 복원한다.

ABSTRACT

Analyzing the structure of proteins is a key part of understanding their functions and thus their role in biology at the molecular level. In addition, design new proteins in a methodical way is a major engineering challenge. In this work, we introduce a joint geometric-neural networks approach for comparing, deforming and generating 3D protein structures. Viewing protein structures as 3D open curves, we adopt the Square Root Velocity Function (SRVF) representation and leverage its suitable geometric properties along with Deep Residual Networks (ResNets) for a joint registration and comparison. Our ResNets handle better large protein deformations while being more computationally efficient. On top of the mathematical framework, we further design a Geometric Variational Auto-Encoder (G-VAE), that once trained, maps original, previously unseen structures, into a low-dimensional (latent) hyper-sphere. Motivated by the spherical structure of the pre-shape space, we naturally adopt the von Mises-Fisher (vMF) distribution to model our hidden variables. We test the effectiveness of our models by generating novel protein structures and predicting completions of corrupted protein structures. Experimental results show that our method is able to generate plausible structures, different from the structures in the training data.

연구 동기 및 목표

• 기하학적 딥 러닝을 활용해 3D 단백질 구조를 통합적으로 비교, 변형, 생성할 수 있는 프레임워크를 개발하는 것.
• ADMM와 같은 복잡한 접기 절차가 필요한 거리 기반 표현의 한계를 극복하는 것.
• 쌍방향 거리 행렬이나 강성 변환 불변성에만 의존하지 않고 3D 뒷줄기 좌표에 대한 엔드 투 엔드 훈련을 가능하게 하는 것.
• 사전 형태 공간의 구조와 자연스럽게 일치하는 구형 기하학을 활용해 단백질 형태의 잠재 공간을 모델링하는 것.
• 잠재 공간 샘플링을 통해 화학적으로 타당하고 다양한 단백질 뒷줄기, 특히 알파-나선과 베타-시트와 같은 2차 구조를 생성하는 것.

제안 방법

• 단백질 뒷줄기를 3D 열린 곡선으로 표현하고, 사전 형태 공간에서 등거리성과 형태 유지 표현을 가능하게 하기 위해 제곱근 속도 함수(SRVF)를 적용한다.
• 단백질 형태 간의 지측선 거리 최소화를 위한 디퍼모르픽 변환을 추정하기 위해 SRVF 표현에 대해 딥 리더드 네트워크(ResNet)를 훈련한다.
• 3D 단백질 구조를 저차원 잠재 초구면으로 매핑하기 위해 비-모드-푸시에(von Mises-Fisher, vMF) 사전 분포를 사용하는 기하학적 변동 자동에코(G-VAE)를 설계한다.
• G-VAE의 디코더를 사용해 잠재 공간에서 샘플링하고 3D 좌표로 다시 투영함으로써 구조를 복원하거나 새로운 단백질 구조를 생성한다.
• 잠재 공간에서 지측선 보간을 활용해 단백질 구조적 변화 간의 매끄럽고 연속적인 전이를 생성한다.
• 무작위 잠재 벡터를 사용한 신규 생성 및 손실 잔여 구조 복원(결손 잔여물 복원)과 같은 작업에 모델을 적용한다.

실험 결과

연구 질문

• RQ1 기하학적 딥 러닝 프레임워크는 기존의 거리 기반 또는 동적 프로그래밍 방법보다 단백질 구조를 더 효율적으로 등록하고 비교할 수 있는가?
• RQ2 3D 뒷줄기 좌표에 직접 훈련된 변동 자동에코는 생물학적으로 타당하고 구조적으로 다양한 단백질 구조를 생성할 수 있는가?
• RQ3 초구면에서 von Mises-Fisher 분포를 사용해 잠재 공간을 모델링할 경우, 유클리드 잠재 공간보다 단백질 형태 공간의 내재 기하학을 더 잘 포착하는가?
• RQ4 잠재 공간에서의 지측선 경로는 사전 형태 공간 또는 형태 공간 자체에서 유도된 경로보다 더 매끄럽고 연속적인 중간 단백질 구조를 생성하는가?
• RQ5 G-VAE 모델은 결손 잔여물이 있는 손상된 단백질 구조를 어느 정도 정확하게 복원하거나 완성할 수 있는가?

주요 결과

• G-VAE 모델은 시각적 점검과 지측선 거리 분석을 통해 현실적인 2차 구조를 포함한 새로운 48잔기 단백질 조각을 성공적으로 생성하였다.
• 잠재 공간에서의 지측선 경로는 사전 형태 공간 또는 형태 공간에서 직접 계산된 경로보다 더 매끄럽고 연속적인 중간 단백질 구조를 생성하였으며, 경로 길이도 짧았다.
• 복원 결과는 테스트 단백질에서 결손된 잔여물(10개, 15개, 20개)을 정확히 복원할 수 있음을 보여주었으며, 복원 영역(빨간색)이 원래 구조(노란색)와 매우 유사하고 구조적 맥락을 유지하였다.
• 실제 입력에 기반한 생성 구조는 무작위 샘플링된 구조보다 실제 훈련 예제와 지측선 거리 측면에서 더 가까웠으며, 이는 의미 있고 구조적인 잠재 공간 조직을 의미한다.
• 쌍방향 Cα-Cα 거리 기반 GAN 기반 베이스라인에 비해, 시각적 및 정량적 비교를 통해 일관되고 안정적인 단백질 뒷줄기를 더 잘 생성함을 입증하였다.
• 평균 잠재 벡터 주변에서의 샘플링은 다양한 그러나 타당한 단백질 구조를 생성하였으며, 이는 모델이 훈련 데이터를 초월한 구조적 다양성과 일반화 능력을 갖추고 있음을 보여준다.