[논문 리뷰] Learning Neural Generative Dynamics for Molecular Conformation Generation

Minkai Xu, Shitong Luo외 3명|arXiv (Cornell University)|2021. 02. 20.

Machine Learning in Materials Science참고 문헌 41인용 수 28

한 줄 요약

이 논문은 조건부 그래프 연속 흐름(CGCF)을 거리 기하학에, 에너지 기반 기울기 모델(ETM)을 결합한 확률 프레임워크를 도입하여 분자 그래프를 조건으로 다양한 유효한 분자 구형을 생성하고, GEOM-QM9, GEOM-Drugs, ISO17 벤치마크에서 최첨단 성능을 달성한다.

ABSTRACT

We study how to generate molecule conformations (i.e., 3D structures) from a molecular graph. Traditional methods, such as molecular dynamics, sample conformations via computationally expensive simulations. Recently, machine learning methods have shown great potential by training on a large collection of conformation data. Challenges arise from the limited model capacity for capturing complex distributions of conformations and the difficulty in modeling long-range dependencies between atoms. Inspired by the recent progress in deep generative models, in this paper, we propose a novel probabilistic framework to generate valid and diverse conformations given a molecular graph. We propose a method combining the advantages of both flow-based and energy-based models, enjoying: (1) a high model capacity to estimate the multimodal conformation distribution; (2) explicitly capturing the complex long-range dependencies between atoms in the observation space. Extensive experiments demonstrate the superior performance of the proposed method on several benchmarks, including conformation generation and distance modeling tasks, with a significant improvement over existing generative models for molecular conformation sampling.

연구 동기 및 목표

• 그래프에서 다모달이고 긴 범위 의존성을 가지는 분자 구형을 생성하는 문제에 동기를 부여하고 해결한다.
• 분자 그래프에 조건부로 연속 정상화 흐름으로 p(d|G)를 모델링한다.
• 생성된 구형을 긴 범위 상호작용을 포착하기 위해 에너지 기반 틸팅 항 E(R,G)으로 정제한다.
• 플로우 기반 밀도 추정과 에너지 기반 정련을 결합하여 샘플링과 학습을 효율화한다.

제안 방법

• 좌표 생성을 거리 기하학에서의 p(R|d,G) p(d|G)로 분해하여 좌표 생성과 거리 기하학을 분리한다.
• CNF를 통한 연속 역학 및 메시지 전달 신경망을 이용해 조건부 그래프 연속 흐름(CGCF)으로 p(d|G)을 모델링한다.
• p(R|d,G)을 카테시안 좌표에 대한 간단한 에너지 기반 분포를 통해 샘플링을 가능하게 하는 확률적 형태로 표현한다.
• 긴 거리 상호작용을 모델링하고 p(R|G)을 pθ,φ(R|G) ∝ pθ(R|G) exp(-Eφ(R,G))로 틸트하는 ETM Eφ(R,G)를 도입한다.
• CGCF를 잡음 분포로 활용하는 노이즈 대조 추정(NCE)을 사용해 ETM을 학습한다.
• 두 단계 샘플링을 수행한다: (i) CGCF로 거리를 생성하고 EDG-유사 후처리로 초기 R을 얻는다, (ii) ETM을 이용한 Langevin 동역학으로 R을 정제한다.

실험 결과

연구 질문

• RQ1 그래프 conditioned의 거리 기하학 위에 흐름 기반 모델이 원자 간 거리의 다모달 분포를 포착할 수 있는가?
• RQ2 에너지 기반 틸팅 항을 도입하면 긴 범위 의존성 모델링과 생성된 구형의 현실성이 향상되는가?
• RQ3 이틀 단계 CGCF + ETM 샘플링 전략이 구형 생성 및 거리 분포 작업에서 기존 Baselines와 어떻게 비교되는가?
• RQ4 ETM이 표준 벤치마크에서 다양성과 수렴성에 미치는 영향은 어떻게 나타나는가?

주요 결과

• CGCF가 구형 생성 벤치마크에서 최첨단 기준선들보다 더 높은 다양성과 정확도를 달성한다.
• ETM을 도입하면 긴 범위 상호작용을 명시적으로 모델링하여 생성 구형의 품질이 더 향상된다.
• CGCF + ETM 프레임워크는 GEOM-QM9, GEOM-Drugs, ISO17 데이터셋 전반에서 구형 생성 및 거리 분포 작업에서 기준선보다 우수하다.
• 메서드는 높은 다양성을 유지하면서 ground-truth 분포와의 강한 정렬을 달성한다.