[논문 리뷰] Generating Tertiary Protein Structures via an Interpretative Variational Autoencoder

Xiaojie Guo, Du, Yuanqi외 3명|arXiv (Cornell University)|2020. 04. 08.

Protein Structure and Dynamics참고 문헌 53인용 수 14

한 줄 요약

이 논문은 접촉 맵을 그래프로 모델링하고, 잠재 공간 추론에 그래프 컨volution 네트워크를 사용하며, 생물학적으로 의미 있는 구조적 요인을 드러내기 위해 분리 기법을 도입함으로써 해석 가능하고 다양한 삼차 구조 단백질 구조를 생성하는 분리된 변동 자동인코더(DCO-VAE)를 제안한다. 이 방법은 기존의 점수 함수 기반 최적화 방식보다 더 높은 해석 가능성과 함께, 새로운 기능적 관련 단백질 구조를 샘플링할 수 있도록 한다.

ABSTRACT

Much scientific enquiry across disciplines is founded upon a mechanistic treatment of dynamic systems that ties form to function. A highly visible instance of this is in molecular biology, where an important goal is to determine functionally-relevant forms/structures that a protein molecule employs to interact with molecular partners in the living cell. This goal is typically pursued under the umbrella of stochastic optimization with algorithms that optimize a scoring function. Research repeatedly shows that current scoring function, though steadily improving, correlate weakly with molecular activity. Inspired by recent momentum in generative deep learning, this paper proposes and evaluates an alternative approach to generating functionally-relevant three-dimensional structures of a protein. Though typically deep generative models struggle with highly-structured data, the work presented here circumvents this challenge via graph-generative models. A comprehensive evaluation of several deep architectures shows the promise of generative models in directly revealing the latent space for sampling novel tertiary structures, as well as in highlighting axes/factors that carry structural meaning and open the black box often associated with deep models. The work presented here is a first step towards interpretative, deep generative models becoming viable and informative complementary approaches to protein structure prediction.

연구 동기 및 목표

• 약한 상관관계를 가지는 점수 함수에 의존하고 편향된 확률적 최적화를 사용하는 현재의 단백질 구조 예측 방법의 한계를 해결하기 위해.
• 아미노산 서열에서 직접 다양하고 생물학적으로 타당한 삼차 구조 단백질 구조를 샘플링할 수 있는 딥 생성 모델을 개발하기 위해.
• 잠재 표현의 해석 가능성을 높이기 위해 구조적 요인의 분리 기법을 통해 단백질 구조 생성에서의 잠재 표현을 개선하기 위해.
• 템플릿 기반 예측의 대체로 기반 데이터 기반의 보완적 접근을 제공하고, 잠재적인 구조 원리를 드러내기 위해.
• 그래프 기반 변동 자동인코더가 단백질 접촉 맵의 복잡하고 구조적인 특성을 효과적으로 모델링할 수 있는지 탐색하기 위해.

제안 방법

• 모델는 단백질 접촉 맵을 잠재 공간으로 인코딩하기 위해 이중층 그래프 컨volution 네트워크(GCN)를 사용하는 그래프 변동 자동인코더(CO-VAE)를 활용하며, 잠재 분포의 평균과 로그 분산을 추정한다.
• 재생성 기법을 사용하여 추론된 가우시안 분포에서 잠재 벡터를 샘플링함으로써, 훈련 중에 확률적 역전파가 가능해진다.
• 잠재 코드에서 접촉 맵을 복원하기 위해 그래프 디컨볼루션 기반 디코더를 사용하며, 재구성 손실은 변동 하한 근사에 의해 최적화된다.
• 분리된 변종(DCO-VAE)은 재구성 정확도와 잠재 공간의 분리 정도를 균형 잡기 위해 하이퍼파rameter β를 도입하며, β-VAE에서 영감을 받았다.
• 모델은 가우시안 사전분포 p(Z) = N(0, I)를 사용하고, Kullback-Leibler(KL) 발산 정규화를 적용하여 사후분포 q(Z|F,A)가 사전분포와 유사하도록 유도한다.
• 노드 특징는 아미노산 정체성(L₂=20)을 인코딩하며, 단백질 구조에서 유도된 전체 접촉 맵에 대해 전부 사용하는 배치 기반 경사 하강법을 사용해 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 딥 생성 모델은 아미노산 서열에서 생물학적으로 관련된 삼차 구조 단백질의 분포를 효과적으로 학습할 수 있는가?
• RQ2 그래프 기반 변동 자동인코더는 구조적 타당성을 유지하면서 다양하고 현실적인 단백질 접촉 맵을 생성할 수 있는가?
• RQ3 잠재 공간에 분리 기법을 도입함으로써 단백질 구조의 변동에서 해석 가능하고 생물학적으로 의미 있는 요인을 드러낼 수 있는가?
• RQ4 표준 VAE와 비교할 때, 분리된 잠재 공간은 구조적 다양성과 해석 가능성 측면에서 어떻게 다른가?
• RQ5 모델은 훈련 데이터에 존재하지 않는 새로운 단백질 구조를 생성할 수 있는가? 이는 신규 단백질 설계 잠재력의 증거가 될 수 있는가?

주요 결과

• DCO-VAE 모델은 개별 차원이 2차 구조 요소나 접힘 모티프와 같이 해석 가능한 구조적 요인에 해당하는 분리된 잠재 공간을 성공적으로 학습한다.
• 분리된 잠재 공간에서의 샘플링은 기존의 구조 원칙과 호환되는 다양한 구조적 타당성을 가진 단백질 접촉 맵을 생성한다.
• β > 1로 설정된 분리 기법을 통해 표준 VAE보다 더 높은 구조적 다양성과 생물학적 관련성 있는 구조를 생성함으로써 성능이 뛰어나다.
• 분리 기법은 특정 구조적 특징와 관련된 잠재 요인을 식별할 수 있게 하여 블랙박스 모델의 해석 가능성을 향상시킨다.
• 이 프레임워크는 전통적인 점수 함수 기반 단백질 구조 예측의 보완적 접근으로서 깊이 있는 생성 모델의 가능성을 입증한다.
• 이 방법은 반복적 최적화에 의존하지 않고 직접적으로 새로운 삼차 구조를 생성할 수 있어, 신규 단백질 설계를 위한 새로운 길을 열어준다.