[论文解读] Hybrid quantum-classical machine learning for generative chemistry and drug design

A. I. Gircha, Aleksey S. Boev+3 more|arXiv (Cornell University)|Aug 26, 2021

Machine Learning in Materials Science参考文献 31被引用 6

一句话总结

本文提出了一种用于药物发现的混合量子-经典生成模型，结合了离散变分自编码器（DVAE）与在D-Wave量子退火器上实现的受限玻尔兹曼机（RBM）。该模型成功生成了2,331种新颖的类药物分子，其药物化学性质与合成性质与ChEMBL数据库中的数据相符，证明了在近期量子硬件上应用生成化学的可行性。

ABSTRACT

Deep generative chemistry models emerge as powerful tools to expedite drug discovery. However, the immense size and complexity of the structural space of all possible drug-like molecules pose significant obstacles, which could be overcome with hybrid architectures combining quantum computers with deep classical networks. As the first step toward this goal, we built a compact discrete variational autoencoder (DVAE) with a Restricted Boltzmann Machine (RBM) of reduced size in its latent layer. The size of the proposed model was small enough to fit on a state-of-the-art D-Wave quantum annealer and allowed training on a subset of the ChEMBL dataset of biologically active compounds. Finally, we generated 2331 novel chemical structures with medicinal chemistry and synthetic accessibility properties in the ranges typical for molecules from ChEMBL. The presented results demonstrate the feasibility of using already existing or soon-to-be-available quantum computing devices as testbeds for future drug discovery applications.

研究动机与目标

• 开发一种混合量子-经典机器学习架构，利用近期量子硬件实现生成化学。
• 解决利用量子增强生成模型探索类药物分子庞大化学空间（10^23–10^60种可能化合物）的挑战。
• 证明现有量子退火器能够训练并从DVAE中基于RBM的紧凑潜在空间中采样。
• 生成具有真实药物化学与合成可及性特征的新颖化学结构。
• 建立未来量子增强生成模型在药物设计中的原型，为容错硬件上的量子VAE（QVAE）铺平道路。

提出的方法

• 使用离散变分自编码器（DVAE）将分子的SMILES表示编码为离散潜在变量。
• 利用小型受限玻尔兹曼机（RBM）对潜在空间进行建模，该RBM在D-Wave Advantage量子退火器上进行训练，以从玻尔兹曼分布中采样。
• 解码器采用基于Transformer的架构，包含5层、d_model=160、10个注意力头，前馈网络宽度为320，用于重构与生成分子。
• 训练采用重加权ELBO目标函数，β=0.1以防止后验坍缩，使用Adam优化器和多阶段学习率调度。
• 通过在D-Wave处理器上使用30步Gibbs采样和持续对比散列（PCD）执行RBM的量子采样。
• 模型评估使用退火重要性采样（AIS）估算RBM的对数配分函数，每轮使用10个中间分布和500个样本。

实验结果

研究问题

• RQ1 量子退火器能否被有效用于训练用于分子设计的生成模型？
• RQ2 在潜在空间中采用小型RBM的混合量子-经典DVAE能否生成化学上合理且可合成的分子？
• RQ3 生成的分子是否表现出与ChEMBL数据库中分子相似的药物化学性质？
• RQ4 与经典采样相比，该生成任务中量子增强的RBM采样是否更具有效性？
• RQ5 该架构能否作为未来量子增强生成化学模型的可扩展原型？

主要发现

• 该模型成功生成了2,331种新颖化学结构，其药物化学性质与合成可及性特征处于ChEMML数据库中观察到的典型范围内。
• 量子退火的RBM能够学习分子结构的有意义潜在表征，从而实现有效的分子重构与生成。
• D-Wave Advantage量子处理器成功完成了RBM的训练与采样，证明了NISQ设备在生成化学任务中的可行性。
• 生成分子与其重构版本之间的Tanimoto相似度得分较高，接近1.0，表明重构准确。
• 采用持续对比散列（PCD）与退火重要性采样（AIS）实现了RBM训练的稳定性与配分函数评估的可靠性。
• 尽管该混合架构规模较小，但其在生成具有真实性质的分子方面表现有效，验证了该方法作为迈向量子增强药物发现的可行第一步。