[논문 리뷰] Swallowing the Bitter Pill: Simplified Scalable Conformer Generation

Yuyang Wang, Ahmed A. Elhag외 3명|arXiv (Cornell University)|2023. 11. 27.

Machine Learning in Materials Science인용 수 6

한 줄 요약

이 논문은 분자의 3차원 구형체 생성을 연속 함수의 분포를 학습하는 것으로 공식화하는 분자 구형체 필드(Molecular Conformer Fields, MCF)를 소개한다. MCF는 비틀림 각도를 명시적으로 모델링하거나 규칙 기반 화학 정보학 도구에 의존하지 않으며, 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성하여 확장 가능하고 일반화 가능한 구형체 생성을 가능하게 한다.

ABSTRACT

We present a novel way to predict molecular conformers through a simple formulation that sidesteps many of the heuristics of prior works and achieves state of the art results by using the advantages of scale. By training a diffusion generative model directly on 3D atomic positions without making assumptions about the explicit structure of molecules (e.g. modeling torsional angles) we are able to radically simplify structure learning, and make it trivial to scale up the model sizes. This model, called Molecular Conformer Fields (MCF), works by parameterizing conformer structures as functions that map elements from a molecular graph directly to their 3D location in space. This formulation allows us to boil down the essence of structure prediction to learning a distribution over functions. Experimental results show that scaling up the model capacity leads to large gains in generalization performance without enforcing inductive biases like rotational equivariance. MCF represents an advance in extending diffusion models to handle complex scientific problems in a conceptually simple, scalable and effective manner.

연구 동기 및 목표

• 2차원 분자 그래프에서부터 다양하고 낮은 에너지의 3차원 구형체를 생성하는 데 도전하는 것.
• 기존 방법이 비틀림 각도나 규칙 기반 화학 정보학 도구에 의존하는 한계를 극복하는 것.
• 영역에 특화된 인덕티브 바이어스를 피하는 확장 가능하고 일반화 가능한 구형체 예측을 위한 생성 모델을 개발하는 것.
• 일반화성과 물리적 타당성을 평가하기 위해 분포 외 분자와 화학적 성질 유사성에 대한 성능을 평가하는 것.

제안 방법

• 구형체는 분자 그래프 $ \mathcal{G} $ 에서 $ \mathbb{R}^3 $ 으로 사상하는 연속 함수(필드) $ f: \mathcal{G} \rightarrow \mathbb{R}^3 $ 로 모델링된다.
• 이러한 구형체 필드의 분포를 학습하기 위해 확산 생성 모델이 훈련되어 3차원 좌표의 엔드 투 엔드 생성을 가능하게 한다.
• 중간 변수인 비틀림 각도나 이황각도를 모델링하지 않고도 직접 원자 3차원 위치를 예측한다.
• 모델은 구형체 필드에 대한 노이즈 스케줄을 사용하여 훈련되며, 스코어 기반 생성 모델링을 통한 노이즈 제거 손실을 최적화한다.
• 고정된 도메인 기하학이 필요 없이 다양한 분자 그래프로 일반화되므로, 큰 크기와 복잡한 구조를 가진 분자에 대한 확장성이 뛰어나다.
• 추론 과정은 학습된 확산 과정에서 샘플링하여 그래프 내 각 원자에서 필드를 평가함으로써 전체 3차원 구형체를 생성하는 방식이다.

실험 결과

연구 질문

• RQ1 연속적인 구형체 필드에 대해 훈련된 확산 모델이 비틀림 각도나 기하 제약 조건을 명시적으로 모델링하는 기존 방법보다 우수한 성능을 보일 수 있는가?
• RQ2 훈련 중에 볼 수 없었던 원자 수가 많고 복잡한 위상을 가진 분자에 대해 모델의 일반화 능력은 어느 정도인가?
• RQ3 규칙 기반 화학 정보학 도구(예: RDKit 기반의 구조 탐지)의 부재가 모델의 강건성과 성능에 어느 정도 영향을 미치는가?
• RQ4 생성된 구형체가 에너지, 분극모멘트, HOMO-LUMO 갭과 같은 핵심 물리적 성질을 얼마나 정확하게 재현하는가?

주요 결과

• MCF는 GEOM-XL 벤치마크에서 최신 기술 수준의 성능를 달성하였으며, 77개 분자에서 AMR-P는 1.77, AMR-R는 2.37로 동일 평가에서 Torsional Diffusion를 능가하였다.
• 동일한 77개 분자에서 MCF는 중앙값 $ E_{\text{min}} $ 오차가 0.02 kcal/mol을 기록하여 Torsional Diffusion(0.13 kcal/mol)보다 낮은 에너지의 구형체 생성 능력을 보였다.
• MCF는 분극모멘트에 대해 중앙값 오차 0.26 D, HOMO-LUMO 갭에 대해 0.64 eV를 기록하여 핵심 전자 성질에 대해 경쟁력 있는 성능를 보였다.
• 모델은 중앙값 $ E $ 오차가 0.66 kcal/mol을 기록하였으며, 일부 기준보다 높아 고에너지 구형체를 생성할 수 있음을 시사하지만, 전체적으로 안정적이고 낮은 에너지의 구조를 생성하였다.
• RDKit 기반의 구조 탐지 실패 문제를 피하여, Torsional Diffusion에서 관찰된 25개 분자의 경우 구조 생성 실패를 방지하였다.
• 제거 실험 결과, 모델의 성능가 아키텍처 선택에 대해 강건하며, 기하 변수의 간접적 모델링보다 직접적인 3차원 좌표 예측이 더 효과적임을 확인하였다.