[논문 리뷰] Modeling Molecular Structures with Intrinsic Diffusion Models

Gabriele Corso|arXiv (Cornell University)|2023. 02. 23.

Protein Structure and Dynamics인용 수 4

한 줄 요약

이 논문은 분자의 유연성을 활용하여 내재된 자유도(특히 회전 각도)의 저차원 다양체 위에서 확산 과정을 정의하는 새로운 딥 생성 프레임워크인 Intrinsic Diffusion Models를 소개한다. 이를 통해 분자 구형 및 단백질-리간드 도킹 자세의 생성 속도와 정확도를 향상시킨다. 이 방법은 두 작업 모두에서 최신 기술 수준의 성능을 달성하여 기존의 전통적 계산 방법과 딥 러닝 기반 기준선을 능가한다.

ABSTRACT

Since its foundations, more than one hundred years ago, the field of structural biology has strived to understand and analyze the properties of molecules and their interactions by studying the structure that they take in 3D space. However, a fundamental challenge with this approach has been the dynamic nature of these particles, which forces us to model not a single but a whole distribution of structures for every molecular system. This thesis proposes Intrinsic Diffusion Modeling, a novel approach to this problem based on combining diffusion generative models with scientific knowledge about the flexibility of biological complexes. The knowledge of these degrees of freedom is translated into the definition of a manifold over which the diffusion process is defined. This manifold significantly reduces the dimensionality and increases the smoothness of the generation space allowing for significantly faster and more accurate generative processes. We demonstrate the effectiveness of this approach on two fundamental tasks at the basis of computational chemistry and biology: molecular conformer generation and molecular docking. In both tasks, we construct the first deep learning method to outperform traditional computational approaches achieving an unprecedented level of accuracy for scalable programs.

연구 동기 및 목표

• 단일 정적 구조가 아닌 전체 구형 분포를 생성함으로써 분자의 동적이고 다중 구조적 성질을 모델링하는 데 도전한다.
• 분자의 유연성에 대한 물리적 지식을 생성 과정에 통합함으로써 분자 구형 생성 및 단백질-리간드 도킹의 효율성과 정확도를 향상시킨다.
• 카르테시안 좌표가 아닌 내재 자유도(예: 토후션 각도)를 기반으로 작동하는 딥 생성 모델을 개발하여 차원을 감소시키고 생성 공간의 매끄러움을 향상시킨다.
• 이 접근 방식이 구형 생성 및 도킹 정확도에서 기존의 전통적 계산 방법과 딥 러닝 모델을 초월할 수 있음을 입증한다.
• 약물 발견의 후속 응용을 위해 물리적으로 타당하고 다양한, 확신 있는 분자 자세(다중 결합 모드 포함)를 생성할 수 있도록 한다.

제안 방법

• 분자의 유연성을 매개변수화하기 위해 내재 자유도(예: 토후션 각도)의 저차원 다양체를 정의하여 생성 공간의 차원을 크게 감소시킨다.
• 확산 과정이 다이나믹스의 기하학적 구조를 존중하는 학습된 스코어 함수에 의해 안내되는 점탄성 스코어 기반 생성 모델을 사용하여 이 다이나믹스 위에 직접 정의된다.
• 신경망을 사용하여 토후션 다이나믹스 위에서 스코어 함수를 예측하며, 진짜 토후션 상태의 노이즈가 섞인 변형에 대한 노이즈 제거 목표로 훈련된다.
• 도킹에 대해 프레임워크를 확장하여 단백질 구조를 조건으로 하여 리간드 자세를 생성하며, 생성된 자세를 순위 매기기 위한 신뢰도 헤드를 통합한다.
• 스코어 네트워크 아키텍처에 대칭성 및 기하학적 불변성을 활용하여 물리적 일관성과 강건성을 보장한다.
• 훈련은 내재 다이나믹스 위에서 노이즈 제거 목표로 수행되며, 추론은 노이즈에서 시작하여 역확산 단계를 거쳐 다양한 고신뢰도 분자 구조를 생성한다.

실험 결과

연구 질문

• RQ1 내재 자유도(예: 토후션 각도)를 통해 분자 동역학를 모델링하면 카르테시안 공간 기반 확산 모델에 비해 더 효율적이고 정확한 분자 구조 생성이 가능한가?
• RQ2 저차원이고 물리적으로 의미 있는 다이나믹스 위에 정의된 확산 모델이 기존의 전통적 계산 방법보다 분자 구형 생성에서 우월한 성능을 낼 수 있는가?
• RQ3 동일한 내재 다이나믹스 기반 확산 프레임워크가 다중 결합 모드 샘플링 능력을 갖추고 있어 단백질-리간드 도킹에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 신뢰도 헤드를 통합함으로써 도킹 작업에서 자세 선택 및 후속 친화도 예측 성능이 얼마나 향상되는가?
• RQ5 복잡하거나 대칭적인 시스템에서 이 모델이 복잡한 다각적이고 물리적으로 타당한 자세를 회귀 기반 모델이나 비생성 모델에 비해 얼마나 뛰어난가?

주요 결과

• 제안된 Torsional Diffusion 모델은 40개의 자세를 샘플링했을 때 진짜 구조와 2Å 이내의 RMSD를 갖는 자세를 생성하는 데 38%의 성공률을 기록했으며, 단일 샘플 기준선(22%)과 기존의 전통적 방법보다 뚜렷이 뛰어나다.
• 분자 도킹에서 DiffDock는 40개의 샘플 중 가장 높은 신뢰도를 가진 자세를 선택했을 때 38%의 성공률(RMSD < 2Å)을 기록했으며, 기존의 딥 러닝 및 전통적 도킹 기준선을 초월했다.
• 이 방법은 회전 대칭성이나 유연한 복합체에 대해 다수의 물리적으로 타당한 결합 모드를 생성할 수 있으나, 단일 평균 자세를 예측하는 회귀 기반 모델(예: EquiBind)은 이를 구현하지 못한다.
• 하이퍼파rameter 튜닝 없이도 DiffDock의 친화도 예측 헤드는 PDBBind에서 RMSE 1.347과 스피어만 상관계수 0.718을 기록했으며, TANKBind와 같은 최신 기술 수준의 방법과 동등하거나 이를 초월했다.
• 시각화 결과는 DiffDock가 여러 결합 모드 주변에서 샘플링하고 정확하고 다양한 자세를 생성하는 것을 확인했으며, TANKBind와 같은 기준선은 종종 자기 교차하거나 잘못된 구형을 생성한다.
• 역확산 과정은 노이즈에서 안정된 분자 구조로의 매끄럽고 물리적으로 타당한 전이를 보여주어 모델이 학습한 스코어 함수와 다이나믹스 기하학이 타당함을 검증한다.