[논문 리뷰] Hybrid quantum-classical machine learning for generative chemistry and drug design

A. I. Gircha, Aleksey S. Boev외 3명|arXiv (Cornell University)|2021. 08. 26.

Machine Learning in Materials Science참고 문헌 31인용 수 6

한 줄 요약

이 논문은 D-Wave 양자 앤날러에서 구현된 제한된 바르만 기계(RBM)와 결합된 이산 변수 오토인코더(DVAE)를 사용하여 약물 발견을 위한 하이브리드 양자-고전적 생성 모델을 제안한다. 이 모델은 ChEMBL 데이터베이스의 성질을 갖는 2,331개의 새로운 약물 유사 분자를 성공적으로 생성하여, 근접한 양자 하드웨어를 활용한 생성 화학의 가능성을 입증한다.

ABSTRACT

Deep generative chemistry models emerge as powerful tools to expedite drug discovery. However, the immense size and complexity of the structural space of all possible drug-like molecules pose significant obstacles, which could be overcome with hybrid architectures combining quantum computers with deep classical networks. As the first step toward this goal, we built a compact discrete variational autoencoder (DVAE) with a Restricted Boltzmann Machine (RBM) of reduced size in its latent layer. The size of the proposed model was small enough to fit on a state-of-the-art D-Wave quantum annealer and allowed training on a subset of the ChEMBL dataset of biologically active compounds. Finally, we generated 2331 novel chemical structures with medicinal chemistry and synthetic accessibility properties in the ranges typical for molecules from ChEMBL. The presented results demonstrate the feasibility of using already existing or soon-to-be-available quantum computing devices as testbeds for future drug discovery applications.

연구 동기 및 목표

• 근접한 양자 하드웨어를 활용한 생성 화학을 위한 하이브리드 양자-고전적 기계 학습 아키텍처를 개발하는 것.
• 약물 유사 분자의 광범위한 화학적 공간(10^23–10^60개의 가능한 화합물)을 양자 강화 생성 모델을 통해 탐색하는 데 도전하는 것.
• 기존의 양자 앤날러가 DVAE의 작고 효율적인 RBM 기반 잠재 공간에서 학습 및 샘플링을 수행할 수 있음을 입증하는 것.
• 실제 약물 화학 및 합성 가능성이 높은 특성을 갖는 새로운 화학 구조를 생성하는 것.
• 미래의 양자 강화 생성 모델을 위한 프로토타입을 구축하고, 고장 내성 하드웨어에서의 양자 VAE(QVAE)로의 길을 열어주는 것.

제안 방법

• 분자의 SMILES 표현을 이산 잠재 변수로 인코딩하기 위해 이산 변수 오토인코더(DVAE)를 사용한다.
• 잠재 공간은 작은 크기의 제한된 바르만 기계(RBM)로 모델링되며, 이는 D-Wave Advantage 양자 앤날러에서 Boltzmann 분포에서 샘플링하기 위해 학습된다.
• 디코더는 5층, d_model=160, 10개의 어텐션 헤드, 피드포워드 너비 320을 갖는 트랜스포머 기반 아키텍처를 사용하여 분자를 재구성하고 생성한다.
• 후행 붕괴를 방지하기 위해 β=0.1로 재가중된 ELBO 목표함수를 사용하며, Adam 옵timizer와 MultiStep 학습률 스케줄을 적용한다.
• 양자 샘플링은 D-Wave 프로세서에서 30단계의 견고한 기반 대비 분산(PCA)을 사용한 견고한 기반 대비 분산(Gibbs) 샘플링을 통해 수행된다.
• 모델 평가는 RBM의 로그-파트리션 함수를 추정하기 위해 안내된 중요도 샘플링(AIS)을 사용하며, 10개의 중간 분포와 에포크당 500개의 샘플을 사용한다.

실험 결과

연구 질문

• RQ1 양자 앤날러는 분자 설계를 위한 생성 모델을 효과적으로 학습하는 데 사용될 수 있는가?
• RQ2 작은 RBM을 잠재 공간에 포함한 하이브리드 양자-고전적 DVAE는 화학적으로 타당하고 합성 가능성이 높은 분자를 생성할 수 있는가?
• RQ3 생성된 분자들이 ChEMBL 데이터베이스의 분자들과 유사한 약물 화학적 성질을 갖는가?
• RQ4 이 생성 작업에서 양자 강화 RBM 샘플링이 고전적 샘플링보다 더 효과적인가?
• RQ5 이 아키텍처는 향후 양자 강화 생성 화학 모델을 위한 확장 가능한 프로토타입이 될 수 있는가?

주요 결과

• 모델은 ChEMBL 데이터베이스에서 관찰된 일반 범위 내의 약물 화학적 성질과 합성 가능성을 갖는 2,331개의 새로운 화학 구조를 성공적으로 생성하였다.
• 양자 앤날러를 거친 RBM는 분자 구조의 의미 있는 잠재 표현을 학습하여 효과적인 분자 재구성 및 생성을 가능하게 하였다.
• D-Wave Advantage 양자 프로세서는 RBM의 학습 및 샘플링을 수행할 수 있었으며, NISQ 장치를 활용한 생성 화학 작업의 가능성을 입증하였다.
• 생성된 분자와 그 재구성 간의 Tanimoto 유사도 점수는 매우 높았으며, 1.0에 가까운 값을 기록하여 정확한 재구성 능력을 보였다.
• 견고한 기반 대비 분산(PCA)과 안내된 중요도 샘플링(AIS)의 사용은 RBM의 파artition 함수 평가의 안정성과 신뢰성을 높였다.
• 작은 규모이지만 하이브리드 아키텍처는 현실적인 성질을 갖는 분자를 효과적으로 생성하였으며, 이는 양자 강화 약물 발견을 위한 타당한 첫걸음으로서의 접근 방식을 검증하였다.