[논문 리뷰] A Latent Diffusion Model for Protein Structure Generation

Cong Fu, Keqiang Yan외 8명|arXiv (Cornell University)|2023. 05. 06.

Protein Structure and Dynamics인용 수 9

한 줄 요약

본 논문은 LatentDiff를 소개하며, 등가적인 단백질 자동인코더를 갖춘 잠재 확산 프레임워크를 통해 축약된 잠재 공간에서 새로운 단백질 백본 구조를 생성하고 설계 가능성과 샘플링 효율성을 향상시킨다.

ABSTRACT

Proteins are complex biomolecules that perform a variety of crucial functions within living organisms. Designing and generating novel proteins can pave the way for many future synthetic biology applications, including drug discovery. However, it remains a challenging computational task due to the large modeling space of protein structures. In this study, we propose a latent diffusion model that can reduce the complexity of protein modeling while flexibly capturing the distribution of natural protein structures in a condensed latent space. Specifically, we propose an equivariant protein autoencoder that embeds proteins into a latent space and then uses an equivariant diffusion model to learn the distribution of the latent protein representations. Experimental results demonstrate that our method can effectively generate novel protein backbone structures with high designability and efficiency. The code will be made publicly available at https://github.com/divelab/AIRS/tree/main/OpenProt/LatentDiff

연구 동기 및 목표

• 3D 단백질 백본에 대한 확산 모델링 공간을 축소하여 효율성을 개선하려는 동기 제시.
• 시퀀스와 3D 기하를 보존하는 등가 자동인코더를 제안하여 잠재 표현을 생산.
• 잠재 단백질 표현에서 작동하는 회전 불변 잠재 확산 프로세스 개발.
• 기저선 대비 재구성 품질, 설계 가능성 및 병렬 샘플링 효율성 시연.

제안 방법

• C-alpha 순서를 보존하며 단백질 백본을 다운샘플링/업샘플링하는 SE(3) 등가적 단백질 자동인코더 설계.
• 구조 패딩, 간선 구축, 그래프 확장 및 SE(3) 등가적 메시지 전달을 통한 그래프 기반 잠재 공간 구성.
• 회전 등가 역 확산으로 자동인코더 잠재 공간에서 잠재 확산 모델 학습.
• 잠재 공간 내에서 평균이 0인 잠재 표현과 회전 등가적 확산(EDM 기반)을 통해 SE(3) 불변성 강제.
• 두 단계 생성 사용: 인코딩하여 잠재로 변환, 잠재를 샘플링하기 위한 확산 수행 후 3D 백본으로 디코딩.

실험 결과

연구 질문

• RQ1 LatentDiff가 우수한 설계 가능성을 가진 새로운 단백질 백본 구조를 생성할 수 있는가?
• RQ2 SE(3) 등가적 자동인코더가 단백질 백본을 확산 모델링에 효과적으로 압축하는가?
• RQ3 잠재 공간 확산이 전체 공간 확산에 비해 설계 가능성과 샘플링 효율성 측면에서 어떤 차이가 있는가?
• RQ4 잠재 확산 프로세스가 회전 불변이며 3D 단백질 기하에 적합한가?

주요 결과

방법	RMSD (Å)	Augment Acc (%)	Residue Acc (%)	Edge Stable (%)	Torsion MAE (rad)
auto-2	0.5280	100	99	95.29	0.4361
auto-4	1.2755	100	98	70.99	0.8951
auto-8	2.2772	100	45	59.97	1.1903

• 오토인코더의 다운샘플링 계수 4에서 재구성의 균형이 잘 맞아짐(RMSD 1.2755 Å, Augment Acc 100%, Residue Acc 98%, Edge Stable 70.99%, Torsion MAE 0.8951 rad).
• LatentDiff 설계 가능성: 생성된 백본의 66.9%가 scTM > 0.5를 달성하며 FoldingDiff(14.2%) 및 ProtDiff(11.8%)를 능가함.
• LatentDiff는 특정 전체 원자 확산 기반 기준선보다 빠른 샘플링을 가능하게 하면서도 경쟁력 있는 설계 가능성을 달성함(예: LatentDiff-P가 더 효율적).
• 오토인코더 변형에 대해 다운샘플링 크기가 작을수록 재구성이 좋아지지만 잠재 공간이 커지고, 계수 4는 재구성과 효율성 사이의 균형을 제공함.
• 본 방법은 병렬 샘플링 효율성을 지원하여 일부 기준선 대비 확산 단계 수를 줄이면서도 설계 가능성을 유지함.