[论文解读] Improving Molecular Design by Stochastic Iterative Target Augmentation

Kevin Yang, Wengong Jin+3 more|arXiv (Cornell University)|Feb 11, 2020

Machine Learning in Materials Science参考文献 48被引用 4

一句话总结

本文提出了一种基于随机迭代目标增强的分子生成方法，通过使用预训练的性质预测器对生成的分子进行筛选，并迭代地将高质量分子作为训练数据进行增强。该方法在条件分子设计任务中显著优于先前的最先进模型，在无需架构修改的情况下通过自训练实现了超过10%的绝对性能提升。

ABSTRACT

Generative models in molecular design tend to be richly parameterized, data-hungry neural models, as they must create complex structured objects as outputs. Estimating such models from data may be challenging due to the lack of sufficient training data. In this paper, we propose a surprisingly effective self-training approach for iteratively creating additional molecular targets. We first pre-train the generative model together with a simple property predictor. The property predictor is then used as a likelihood model for filtering candidate structures from the generative model. Additional targets are iteratively produced and used in the course of stochastic EM iterations to maximize the log-likelihood that the candidate structures are accepted. A simple rejection (re-weighting) sampler suffices to draw posterior samples since the generative model is already reasonable after pre-training. We demonstrate significant gains over strong baselines for both unconditional and conditional molecular design. In particular, our approach outperforms the previous state-of-the-art in conditional molecular design by over 10% in absolute gain. Finally, we show that our approach is useful in other domains as well, such as program synthesis.

研究动机与目标

• 通过创建额外的高质量训练目标，解决分子生成中的数据稀缺问题。
• 在低数据环境下提升数据密集型生成模型的性能。
• 开发一种在无条件和条件分子设计中均有效的生成方法。
• 在程序合成等任务中展示方法的泛化能力，超越化学领域。
• 提供一个理论基础坚实的迭代自训练框架，通过随机期望最大化（EM）提升模型似然度。

提出的方法

• 在小规模标注数据集上预训练生成模型和性质预测器。
• 使用训练好的性质预测器作为似然过滤器，从生成模型中筛选出高分候选分子。
• 将筛选后的候选分子作为新训练目标，迭代地对生成模型进行再训练。
• 将该过程建模为随机期望最大化（EM），以最大化被接受候选分子的对数似然度。
• 应用简单的拒绝采样（重加权）方法，以抽取后验样本，利用预训练后模型的初始质量。
• 通过在推理阶段应用过滤器，将该方法扩展至推理时的归纳适应。

实验结果

研究问题

• RQ1 在数据稀缺环境下，通过性质预测器进行迭代自训练是否能显著提升分子生成性能？
• RQ2 所提出方法在无条件和条件分子设计任务中与强基线相比表现如何？
• RQ3 该方法对第三方性质预测器质量的鲁棒性如何？
• RQ4 该方法是否能泛化到其他具有特定任务约束的生成任务，而不仅限于分子设计？
• RQ5 该方法是否在原理上基于一个严谨的优化框架？

主要发现

• 在条件分子设计任务中，该方法相对于先前最先进模型实现了超过10%的绝对性能提升。
• 该方法在无条件和条件分子生成任务中均显著提升了性能。
• 该方法对第三方性质预测器的质量具有鲁棒性，即使在过滤器不完美时也能保持一致的性能增益。
• 该方法在程序合成任务中也表现出色，优于一个强大的强化学习基线。
• 该方法与架构改进具有互补性，无需修改模型架构即可提升性能。
• 迭代目标增强过程在理论上可被解释为一种随机期望最大化（EM）形式，其目标是最大化被接受候选分子的似然度。