[논문 리뷰] 3DReact: Geometric Deep Learning for Chemical Reactions

Puck van Gerwen, Ksenia R. Briling외 5명|arXiv (Cornell University)|2023. 12. 13.

Machine Learning in Materials Science참고 문헌 93인용 수 3

한 줄 요약

3DReact는 3D 분자 기하학적 구조와 원자 매핑 정보를 통합하여 화학 반응의 특성, 특히 활성화 장벽을 예측하는 기하학적 딥러닝 모델이다. 다양한 데이터셋(GDB7-22-TS, Cyclo-23-TS, Proparg-21-TS)에서 최고 성능을 기록하며 평균 절대 오차(MAE ≤ 0.38 kcal/mol)를 달성하여 내삽 및 외삽 작업 모두에서 뛰어난 강건성을 보이며, 불변 및 등방성 메시지 전파를 모두 지원한다.

ABSTRACT

Geometric deep learning models, which incorporate the relevant molecular symmetries within the neural network architecture, have considerably improved the accuracy and data efficiency of predictions of molecular properties. Building on this success, we introduce 3DReact, a geometric deep learning model to predict reaction properties from three-dimensional structures of reactants and products. We demonstrate that the invariant version of the model is sufficient for existing reaction datasets. We illustrate its competitive performance on the prediction of activation barriers on the GDB7-22-TS, Cyclo-23-TS and Proparg-21-TS datasets in different atom-mapping regimes. We show that, compared to existing models for reaction property prediction, 3DReact offers a flexible framework that exploits atom-mapping information, if available, as well as geometries of reactants and products (in an invariant or equivariant fashion). Accordingly, it performs systematically well across different datasets, atom-mapping regimes, as well as both interpolation and extrapolation tasks.

연구 동기 및 목표

• 3D 분자 기하학적 구조와 원자 매핑 정보를 통합하는 통합 프레임워크를 개발하여 반응 특성 예측의 정확도를 향상시키는 것.
• 기존 모델이 반응 특성 예측에서 화학적(원자 매핑) 및 물리적(기하학적) 사전 지식을 동시에 활용하지 못하는 격차를 메우는 것.
• 다양한 반응 유형과 데이터셋에서 활성화 장벽 예측의 데이터 효율성과 일반화 능력을 향상시키는 것.
• 다양한 원자 매핑 제도와 내삽 및 외삽 설정 모두에서 성능을 평가하는 것.

제안 방법

• 3DReact는 원자들의 회전, 이동 및 순열에 대해 불변인 등방성 메시지 전파 기반의 기하학적 딥러닝 아키텍처를 사용한다.
• 모델은 반응물과 생성물의 3D 좌표를 입력으로 처리하며, 공간 대칭성을 유지하는 등방성 컨볼루션을 갖춘 그래프 신경망을 사용한다.
• 불변 및 등방성 메시지 전파를 모두 지원하여 스칼라(예: 활성화 에너지) 및 벡터성 특성의 탄력적인 모델링이 가능하다.
• 원자 매핑 정보는 별도의 입력으로 또는 대체로 사용되며, 가능할 경우 기계적 통찰을 활용할 수 있도록 한다.
• 모델는 반응 장벽 데이터셋에서 평균 절대 오차(MAE) 손실을 사용하여 엔드 투 엔드로 훈련된다.
• 다양한 설정에서 평가되며, 명시적 수소 원자를 포함하거나 제거한 경우와 여러 원자 매핑 제도(True, Implicit, None)에서의 성능을 분석한다.

실험 결과

연구 질문

• RQ1 3D 분자 기하학적 구조와 원자 매핑 정보를 동시에 통합하는 기하학적 딥러닝 모델이 기존 모델보다 반응 활성화 장벽 예측에서 뛰어난 성능을 보일 수 있는가?
• RQ2 원자 매핑 데이터의 포함 여부가 다양한 데이터셋과 매핑 제도에서 모델 성능에 어떤 영향을 미치는가?
• RQ3 불변 모델에 비해 등방성 메시지 전파를 사용할 경우 반응 특성 예측에서 일반화 능력과 데이터 효율성이 향상되는가?
• RQ4 3DReact는 반응물과 생성물의 기하학적 구조 차이와 같은 구조적 변형에 얼마나 강건한가?
• RQ5 모델은 분포 외 반응(즉, 외삽)에 얼마나 잘 일반화되는가?

주요 결과

• GDB7-22-TS 데이터셋에서 'True' 원자 매핑 제도 하에서 3DReact는 평균 절대 오차(MAE) 0.38 ± 0.07 kcal/mol을 기록하며 기존 모델을 초월한다.
• Cyclo-23-TS 데이터셋에서 'True' 매핑 제도 하에서 3DReact는 MAE 0.37 ± 0.05 kcal/mol을 달성하여 복잡한 고리 형성 반응에서도 높은 정확도를 보였다.
• 세 가지 데이터셋 전반에서 원자 매핑 제도에 관계없이 모델의 성능은 유지되며(MAE ≤ 0.38 kcal/mol), 이는 강건성을 입증한다.
• GDB7-22-TS에서 명시적 수소 원자를 그래프에 포함시키면, 특히 H–X 결합 형성/파기 반응 유형에서 오차의 균일성이 향상된다.
• 저품질의 GFN2-xTB 기하학적 구조로 훈련하더라도 성능 저하가 없어 기하학적 노이즈에 매우 강건함을 보였다.
• SLATMd+KRR에 비해 3DReact는 특히 수소 결합과 미세한 기하학적 변화에 민감한 데이터셋에서 유의미하게 낮은 오차를 기록했다.