[논문 리뷰] RetroBridge: Modeling Retrosynthesis with Markov Bridges

Ilia Igashov, Arne Schneuing외 3명|arXiv (Cornell University)|2023. 08. 30.

Machine Learning in Materials Science인용 수 4

한 줄 요약

RetroBridge는 단일 단계 역합성 문제를 해석할 수 없는 이산 분포 간의 확률 분포 학습 문제로 다루기 위해 새로운 마르코프 브리지 모델을 도입한다. 알려진 제품 및 반응물 분자의 고정된 경로를 따라 확률적 경로를 모델링함으로써, USPTO-50k 벤치마크에서 디퓨전 기반 방법인 DiGress를 뛰어넘는 최고 성능을 달성하며, 정확도와 불확실성 추정 모두에서 뛰어난 성능을 보인다.

ABSTRACT

Retrosynthesis planning is a fundamental challenge in chemistry which aims at designing reaction pathways from commercially available starting materials to a target molecule. Each step in multi-step retrosynthesis planning requires accurate prediction of possible precursor molecules given the target molecule and confidence estimates to guide heuristic search algorithms. We model single-step retrosynthesis planning as a distribution learning problem in a discrete state space. First, we introduce the Markov Bridge Model, a generative framework aimed to approximate the dependency between two intractable discrete distributions accessible via a finite sample of coupled data points. Our framework is based on the concept of a Markov bridge, a Markov process pinned at its endpoints. Unlike diffusion-based methods, our Markov Bridge Model does not need a tractable noise distribution as a sampling proxy and directly operates on the input product molecules as samples from the intractable prior distribution. We then address the retrosynthesis planning problem with our novel framework and introduce RetroBridge, a template-free retrosynthesis modeling approach that achieves state-of-the-art results on standard evaluation benchmarks.

연구 동기 및 목표

• 제품 및 반응물 분자의 확률적 종속성을 모델링하여 단일 단계 역합성 계획 문제를 해결한다.
• 두 해석할 수 없는 이산 분포 간의 매핑에 자연스럽게 적합하지 않은 디퓨전 기반 생성 모델의 한계를 극복한다.
• 템플릿에 의존하지 않는 방법을 개발하여 신약 개발을 위한 다양하고 불확실성 인식 가능한 역합성 경로 생성을 가능하게 한다.
• 신뢰도 및 해석 가능성 향상을 위해 신뢰도 스코어링과 경로 모델링을 통해 역합성 예측의 신뢰성을 높인다.
• 기존의 디퓨전 기반 접근 방식에 비해 마르코프 브리지 프레임워크가 이산적이고 화학적으로 관련된 생성 과제에서 왜 superior한지 입증한다.

제안 방법

• 유한한 쌍으로 이루어진 데이터 포인트를 사용하여 두 해석할 수 없는 이산 분포 간의 조건부 분포를 학습하는 마르코프 브리지 모델을 도입한다.
• 제품 분자에서 출발하여 반응물 분자로 끝나는 확률적 과정으로서 역합성을 모델링하며, 분자의 그래프 상태를 기반으로 정의한다.
• 조건부 스코어 기반 접근 방식을 사용하여 샘플링된 반응물 분자의 가능성을 추정함으로써, 신뢰도 스코어를 통한 불확실성 정량화를 가능하게 한다.
• 모델의 확률적 성격을 활용하여 학습된 마르코프 브리지 과정 하에서의 가능성에 기반해 반응물 후보를 스코어링한다.
• 생성 품질 향상과 불확실성 캘리브레이션 향상을 위해 대조 학습(RetroBridge-CE) 및 변분 하한(VLB)(RetroBridge-VLB) 목적함수를 사용해 모델을 훈련한다.
• 모든 샘플링 단계에서 입력된 제품을 컨텍스트로 통합하여 경로를 안내하면서도 구조적 정밀성을 유지한다.

실험 결과

연구 질문

• RQ1 마르코프 브리지 기반 생성 모델은 역합성에서 두 해석할 수 없는 이산 분포 간의 종속성을 효과적으로 학습할 수 있는가?
• RQ2 마르코프 브리지 프레임워크는 디퓨전 기반 모델 대비 정확도 및 불확실성 추정 측면에서 역합성 예측에 있어 어떻게 비교되는가?
• RQ3 제안된 방법은 기존의 템플릿에 의존하지 않는 모델 대비 제로샷 및 퍼스트샷 일반화 능력을 얼마나 향상시키는가?
• RQ4 모델은 높은 신뢰도를 유지하면서도 다양하고 화학적으로 타당한 역합성 경로를 생성할 수 있는가?
• RQ5 모든 샘플링 단계에서 컨텍스트(제품 분자)를 포함함으로써 생성된 반응물의 품질과 신뢰성이 향상되는가?

주요 결과

• RetroBridge는 컨텍스트를 사용할 경우 USPTO-50k 검증 세트에서 50.74%의 탑-1 정확도를 기록하며, 기존 최고 성능인 DiGress 모델(47.32%)을 초월한다.
• 컨텍스트를 사용한 경우 RetroBridge는 탑-50 정확도 80.58%를 기록하며, 동일 조건에서 DiGress(80.88%)를 능가하는 성능을 보이며, 모든 탑-k 메트릭에서 뛰어난 성능을 입증한다.
• 컨텍스트 없이도 RetroBridge-CE는 탑-1 정확도 48.71%를 기록하여 강력한 구조 유지 능력과 외부 조건에 대한 낮은 의존도를 보여준다.
• 모델은 신뢰할 수 있는 불확실성 정량화를 보이며, 정확한 반응물은 잘못된 것보다 유의미하게 높은 신뢰도 스코어를 부여한다. 예를 들어, 한 예시에서 0.66 대 0.12의 격차를 보였다.
• 컨텍스트를 사용한 RetroBridge-VLB는 탑-50 정확도 86.31%를 기록하여 다양한 올바른 반응물 후보를 생성하는 데 강력한 성능을 보였다.
• 정성적 분석 결과, RetroBridge는 무작위로 선택한 세 개의 테스트 케이스에서 모두 정확한 반응물을 성공적으로 복원하였으며, 상위 예측에서 높은 신뢰도를 보였다.