[论文解读] DrugAssist: A Large Language Model for Molecule Optimization

Geyan Ye, Xibao Cai+6 more|arXiv (Cornell University)|Dec 28, 2023

Machine Learning in Materials Science被引用 4

一句话总结

DrugAssist 是一种通过人类-机器对话实现分子优化的交互式大语言模型，基于 Llama2-7B-Chat 微调，支持迭代式、专家引导的分子性质优化。它在单属性和多属性优化任务中均达到最先进性能，包括范围约束目标，并展现出强大的零样本和少样本迁移能力。

ABSTRACT

Recently, the impressive performance of large language models (LLMs) on a wide range of tasks has attracted an increasing number of attempts to apply LLMs in drug discovery. However, molecule optimization, a critical task in the drug discovery pipeline, is currently an area that has seen little involvement from LLMs. Most of existing approaches focus solely on capturing the underlying patterns in chemical structures provided by the data, without taking advantage of expert feedback. These non-interactive approaches overlook the fact that the drug discovery process is actually one that requires the integration of expert experience and iterative refinement. To address this gap, we propose DrugAssist, an interactive molecule optimization model which performs optimization through human-machine dialogue by leveraging LLM's strong interactivity and generalizability. DrugAssist has achieved leading results in both single and multiple property optimization, simultaneously showcasing immense potential in transferability and iterative optimization. In addition, we publicly release a large instruction-based dataset called MolOpt-Instructions for fine-tuning language models on molecule optimization tasks. We have made our code and data publicly available at https://github.com/blazerye/DrugAssist, which we hope to pave the way for future research in LLMs' application for drug discovery.

研究动机与目标

• 解决现有基于大语言模型的方法在分子优化中缺乏交互式、专家反馈驱动的问题。
• 实现领域专家与大语言模型之间的实时多轮对话，以迭代方式优化分子性质。
• 开发一种能够同时优化多个分子性质的模型，包括在指定取值范围内的优化。
• 通过支持零样本和少样本优化未见过的性质，提升模型的迁移能力。
• 通过公开发布大规模指令数据集 MolOpt-Instructions，为未来在药物发现中微调大语言模型的研究提供支持。

提出的方法

• 在大规模指令数据集 MolOpt-Instructions 上微调 Llama2-7B-Chat，用于分子优化任务。
• 使用 SMILES 字符串表示分子，并将优化任务建模为受自然语言指令引导的条件生成任务。
• 支持多轮对话，用户可提供反馈和新的优化目标，实现迭代优化。
• 通过允许用户纠正模型输出并引导后续生成，整合专家反馈以优化目标分子性质。
• 通过泛化到训练期间未见过的新性质组合，实现零样本迁移。
• 通过利用少量成功优化示例，支持少样本迁移，引导模型完成对新未见性质的优化。

实验结果

研究问题

• RQ1 基于大语言模型的模型是否能有效通过与领域专家的自然语言对话，支持交互式、迭代式分子优化？
• RQ2 该模型在多属性优化任务中，特别是在特定取值范围内的优化任务中，泛化能力如何？
• RQ3 该模型在未包含于训练数据中的性质上，知识迁移能力有多强？
• RQ4 在多轮交互设置中，模型通过人类提供的反馈纠正自身错误的效率如何？
• RQ5 微调后的大语言模型是否能在保持强迁移能力和交互性的同时，实现分子优化的最先进性能？

主要发现

• DrugAssist 在单属性和多属性分子优化任务中均达到最先进性能，包括具有挑战性的范围约束目标。
• 该模型展现出强大的零样本迁移能力，可在无需微调的情况下成功优化训练中未见过的性质组合。
• 在少样本设置下，DrugAssist 可通过少量示例引导，优化训练数据中未包含的新性质（如 logP）。
• 该模型具备稳健的迭代优化能力：当初始输出未满足标准时，能根据人类提供的示例调整方法。
• DrugAssist 在各类优化任务中均保持高有效性和成功率，性能持续优于先前基于大语言模型和传统方法。
• 公开发布的 MolOpt-Instructions 数据集包含足够的数据多样性，可支持大语言模型在分子优化任务中的微调，同时满足相似性与性质差异性约束。