[논문 리뷰] Generative Artificial Intelligence for Navigating Synthesizable Chemical Space

Wenhao Gao, Shitong Luo외 1명|arXiv (Cornell University)|2024. 10. 04.

Advanced Data Processing Techniques인용 수 13

한 줄 요약

SynFormer는 합성 가능한 경로를 생성하는 트랜스포머 기반 프레임워크로, 확산 기반 빌딩 블록 선택 및 엔드-투-엔드 차별화 가능성을 통해 지역적 및 글로벌 합성 가능 화학 공간의 탐색을 가능하게 한다.

ABSTRACT

We introduce SynFormer, a generative modeling framework designed to efficiently explore and navigate synthesizable chemical space. Unlike traditional molecular generation approaches, we generate synthetic pathways for molecules to ensure that designs are synthetically tractable. By incorporating a scalable transformer architecture and a diffusion module for building block selection, SynFormer surpasses existing models in synthesizable molecular design. We demonstrate SynFormer's effectiveness in two key applications: (1) local chemical space exploration, where the model generates synthesizable analogs of a reference molecule, and (2) global chemical space exploration, where the model aims to identify optimal molecules according to a black-box property prediction oracle. Additionally, we demonstrate the scalability of our approach via the improvement in performance as more computational resources become available. With our code and trained models openly available, we hope that SynFormer will find use across applications in drug discovery and materials science.

연구 동기 및 목표

• 합성 가능한 취급 가능성을 보장하는 합성 중심 분자 설계의 필요성을 제시한다.
• 구조뿐만 아니라 합성 경로를 생성하는 확장 가능한 생성 프레임워크를 개발한다.
• 트랜스포머 백본에 확산 모듈을 활용하여 빌딩 블록 및 반응을 선택한다.
• 참조 분자에 의한 국소적(로컬) 공간 탐색과 합성 가능성을 존중하는 글로벌(블랙박스 목적 주도) 공간 탐색을 시연한다.

제안 방법

• START, END, RXN, BB 토큰으로 표기된 postfix 표기로 합성 경로를 표현한다.
• 토큰 유형을 단계별로 분류하며 자동 회귀적으로 경로 토큰을 생성하는 트랜스포머를 사용한다.
• 노이즈 제거 확산 확률 모듈을 포함하여 빌딩 블록의 지문을 예측하고 BB를 선택한다.
• 두 개의 구현을 학습한다: SynFormer-D(디코더 전용)와 SynFormer-ED(입력 SMILES로 조건부 인코더–디코더).
• Enamine REAL Space를 확장하여 115개의 반응 템플릿과 223,244개의 빌딩 블록으로 구성된 시뮬레이션 공간에서 학습한다.

Figure 1: Schematic illustration of the SynFormer framework and architecture. (A) The SynFormer-ED architecture is an encoder-decoder that takes a molecule as input and outputs a synthetic route to the same or an analogous molecule. (B) SynFormer-D is a decoder-only framework designed to generate sy

실험 결과

연구 질문

• RQ1 SynFormer가 분자를 정확하게 재구성하고 크고 합성 가능한 화학 공간을 포착할 수 있는가?
• RQ2 SynFormer가 합성 불가능한 입력에 대해 핵심 특징을 보존하면서 합성 가능한 유사체를 생성할 수 있는가?
• RQ3 SynFormer가 글로벌 화학 공간을 탐색하여 합성 가능성을 존중하며 특성을 최적화할 수 있는가?
• RQ4 SynFormer가 변이 연산자나 강화 학습 기반 최적화 프레임워크 내에서 어떻게 작동하는가?

주요 결과

• SynFormer-ED는 REAL Space에서 재구성률이 이전 모델들보다 높게 나타나(66%) ChEMBL(20%)보다 개선된다.
• 모델 성능(지문 BCE)은 모델 크기와 데이터 증가에 따라 향상되며, 성능 확장은 더 많은 데이터와 컴퓨트가 필요하다.
• SynFormer-ED는 합성 불가능한 설계에 대해 합성 가능한 유사체를 생성하고 합성 가능성을 향상시키면서 목표 점수를 보존할 수 있다.
• SynFormer-D를 RL로 미세조정한(SF-RL) 경우 DRD2 결합에 대해 높은 점수를 받는 분자 생성을 편향시킬 수 있으며 특정 설정에서 여러 방법보다 우수한 성능을 보인다.
• GraphGA 내에서 SynFormer-ED를 변이 연산자로 사용하는 GraphGA-SF는 GuacaMol 작업에서 합성 가능성을 높인 경쟁력 있는 최적화를 제공한다.
• 이 프레임워크는 지역 공간 투영, 히트 확장 및 글로벌 최적화를 가능하게 하면서 합성 경로 존재를 보장한다.

Figure 2: Model performance on molecular reconstruction. (A and B) Comparison of the reconstruction rate and average structural (Tanimoto) similarity between input and output molecules for SynFormer-ED, ChemProjector [ 67 ] , and SynNet [ 65 ] on 1,000 randomly selected molecules from (A) REAL Diver