[论文解读] Retrieval-based Controllable Molecule Generation

Zichao Wang, Weili Nie+4 more|arXiv (Cornell University)|Aug 23, 2022

Computational Drug Discovery Methods被引用 8

一句话总结

本文提出RetMol，一种基于检索的可控分子生成框架，通过少量样本分子引导预训练生成模型，无需任务特定微调。通过基于自监督相似性目标的检索与融合，并结合迭代优化，RetMol在生成具有期望性质的分子方面达到最先进性能，包括在设计SARS-CoV-2主蛋白酶抑制剂等具有挑战性的现实场景中表现优异。

ABSTRACT

Generating new molecules with specified chemical and biological properties via generative models has emerged as a promising direction for drug discovery. However, existing methods require extensive training/fine-tuning with a large dataset, often unavailable in real-world generation tasks. In this work, we propose a new retrieval-based framework for controllable molecule generation. We use a small set of exemplar molecules, i.e., those that (partially) satisfy the design criteria, to steer the pre-trained generative model towards synthesizing molecules that satisfy the given design criteria. We design a retrieval mechanism that retrieves and fuses the exemplar molecules with the input molecule, which is trained by a new self-supervised objective that predicts the nearest neighbor of the input molecule. We also propose an iterative refinement process to dynamically update the generated molecules and retrieval database for better generalization. Our approach is agnostic to the choice of generative models and requires no task-specific fine-tuning. On various tasks ranging from simple design criteria to a challenging real-world scenario for designing lead compounds that bind to the SARS-CoV-2 main protease, we demonstrate our approach extrapolates well beyond the retrieval database, and achieves better performance and wider applicability than previous methods. Code is available at https://github.com/NVlabs/RetMol.

研究动机与目标

• 解决在标注活性分子有限的数据稀缺环境中可控分子生成的挑战。
• 克服现有方法需要大量微调，或依赖与现代架构不兼容的固定潜在空间模型的局限性。
• 在极少模型适配下实现对多样化分子设计任务的泛化能力。
• 开发一种与底层生成模型选择无关的框架，并在现实药物发现场景中高效运行。

提出的方法

• 将检索模块与预训练生成模型（例如基于BART的模型）集成，利用样本分子引导分子生成。
• 设计一种检索机制，基于结构相似性和性质相似性，将样本分子与输入分子进行检索与融合。
• 通过自监督目标训练检索模块，以预测输入分子在潜在空间中的最近邻。
• 实施一种迭代优化过程，动态更新生成分子和检索数据库，以提升泛化能力。
• 采用属性松弛排序策略，在检索过程中优先处理更难满足的约束（例如对接亲和力），以提升收敛性和成功率。
• 通过将检索机制与生成模型解耦，确保与多种生成模型（包括图神经网络架构如HierG2G）的兼容性。

实验结果

研究问题

• RQ1 基于检索的方法是否能在无需任务特定微调的情况下实现强大的可控分子生成性能？
• RQ2 该框架在活性分子有限的真实药物设计任务中泛化能力如何？
• RQ3 属性松弛排序对多约束优化中检索成功率和收敛性有何影响？
• RQ4 该框架是否能有效应用于Transformer架构以外的多样化生成模型？
• RQ5 与端到端微调或潜在空间优化相比，基于检索的融合机制在效率和性能方面表现如何？

主要发现

• RetMol在多个可控生成任务中达到最先进性能，包括惩罚后logP和QED优化，且在无需微调的情况下优于基线方法。
• 在SARS-CoV-2主蛋白酶抑制剂设计任务中，RetMol成功生成了结合亲和力更高的分子，证明了其在现实场景中的适用性。
• 检索模块带来的计算开销可忽略不计，平均每个分子的编码时间仅增加0.0006秒（基模型为0.00343秒，RetMol为0.00402秒）。
• 输入分子与其第10个最近邻之间的平均余弦相似度为0.35，表明即使在较低排名下，检索到的分子仍保持结构相关性。
• RetMol在不同基础生成模型（包括HierG2G）上均保持高性能，证实其在不同架构间的兼容性与泛化能力。
• 在QED任务中，优先松弛更难满足的约束（如对接亲和力）而非较易约束（如相似性），使成功率提升11%（89.5% vs. 78.5%），验证了该策略的有效性。