[논문 리뷰] A Two-Step Graph Convolutional Decoder for Molecule Generation

Xavier Bresson, Thomas Laurent|arXiv (Cornell University)|2019. 06. 08.

Computational Drug Discovery Methods참고 문헌 22인용 수 55

한 줄 요약

이 논문은 분자 생성을 위한 두 단계 자동인코더를 제안한다: 먼저 원자 종류의 bag-of-atoms를 생성하고, 그다음 그래프 컨볼루션 디코더를 사용해 결합을 조립하며, ZINC 분자에서 90.5% 재구성 및 100% 유효성을 달성한다. 또한 빔 탐색과 VAE 프레임워크를 활용해 화학적 특성을 최적화한다.

ABSTRACT

We propose a simple auto-encoder framework for molecule generation. The molecular graph is first encoded into a continuous latent representation $z$, which is then decoded back to a molecule. The encoding process is easy, but the decoding process remains challenging. In this work, we introduce a simple two-step decoding process. In a first step, a fully connected neural network uses the latent vector $z$ to produce a molecular formula, for example CO$_2$ (one carbon and two oxygen atoms). In a second step, a graph convolutional neural network uses the same latent vector $z$ to place bonds between the atoms that were produced in the first step (for example a double bond will be placed between the carbon and each of the oxygens). This two-step process, in which a bag of atoms is first generated, and then assembled, provides a simple framework that allows us to develop an efficient molecule auto-encoder. Numerical experiments on basic tasks such as novelty, uniqueness, validity and optimized chemical property for the 250k ZINC molecules demonstrate the performances of the proposed system. Particularly, we achieve the highest reconstruction rate of 90.5\%, improving the previous rate of 76.7\%. We also report the best property improvement results when optimization is constrained by the molecular distance between the original and generated molecules.

연구 동기 및 목표

• 유효한 분자 생성을 위한 간단하고 효율적인 자동인코더 설계의 동기 부여.
• 원자 생성과 결합 구성의 분리를 통해 분자 디코딩을 단순화한다.
• 잠재 표현으로 주어진 결합 배치를 위해 디코더에서 그래프 신경망 활용.
• 잠재 공간 구조를 개선하기 위해 변분 자동인코더 프레임워크를 통합한다.
• ZINC 데이터에서 재구성, 참신성, 고유성 및 특성 최적화 능력을 시연한다.

제안 방법

• 그래프 컨볼루션 네트워크로 노드 및 엣지 특징을 사용해 분자 그래프를 고정 크기 잠재 벡터 z로 인코딩.
• z에서 원자 bag-of-atoms를 한 은닉층 MLP를 통해 먼저 생성하여 분자식 디코딩.
• 원자 bag-of-atoms에 그래프 컨볼루션 네트워크를 적용해 원자 간 결합 타입을 예측함으로써 결합을 조립.
• 화학적 타당성을 보장하고 높은 확률의 원자성(배합) 결합 구성을 선택하기 위해 빔 검색을 사용.
• 선택적으로 z를 z=μ+σ⊙ε로 모델링하고 KL-발산 손실로 최적화하는 변분 자동인코더 구성 채택.
• 재구성, 유효성, 참신성, 고유성 및 특성 최적화 지표에 대해 ZINC 데이터세트에서 학습 및 평가.

실험 결과

연구 질문

• RQ1 두 단계의 비자기회귀 디코더가 신뢰성 있게 재구성하고 유효한 분자 그래프를 생성할 수 있는가?
• RQ2 원자 생성을 결합 배치에서 분리하는 것이 큰 분자 데이터셋에서 재구성률과 유효성을 개선하는가?
• RQ3 VAE 구성은 분자에 대해 잠재 공간과 재구성 품질에 어떤 영향을 미치는가?
• RQ4 제약 하에 분자를 새롭게 생성하고 화학적 특성을 최적화하는 모델의 능력은 어느 정도인가?

주요 결과

방법	재구성	유효성
CVAE (Gómez-Bombarelli et al. 2018)	44.6%	0.7%
GVAE (Kusner et al. 2017)	53.7%	7.2%
SD-VAE (Dai et al. 2018)	76.2%	43.5%
GraphVAE (Simonovsky & Komodakis 2018)	-	13.5%
JT-VAE (Jin et al. 2018)	76.7%	100.0%
GCPN (You et al. 2018)	-	-
OURS	90.5%	100.0%

• 250k ZINC 분자에서 재구성률 90.5%를 달성, 이전 최첨단 76.7%를 개선(유효성 100%).
• 재구성된 분자에 대해 100% 유효성을 얻었고, 완벽히 재구성되지 않은 경우도 포함.
• prior 분포에서 샘플링 시 100%의 새롭고 고유한 분자를 생성(n=5000).
• 분자 거리로 제약된 최적화에서 특성 개선 성능이 이전 VAE 방법보다 우수.
• 빔 검색은 화학적으로 유효한 분자를 생성하는 데 기여하며 효율성을 위해 병렬화할 수 있다.