[论文解读] Local Latent Space Bayesian Optimization over Structured Inputs

Natalie Maus, Haydn T. Jones+4 more|arXiv (Cornell University)|Jan 28, 2022

Machine Learning and Data Classification被引用 12

一句话总结

该论文提出 LOL-BO，一种局部潜在空间贝叶斯优化方法，通过将潜在空间中的信任区域与输入空间中的信任区域对齐，联合优化结构化输入（例如分子）。通过将深度自编码器与基于共享编码器的信赖域贝叶斯优化策略协同设计为深度核函数，LOL-BO 在真实世界基准测试中实现了相较于最先进方法最高达 22 倍的目标值提升，表明优化策略与潜在空间建模同等重要。

ABSTRACT

Bayesian optimization over the latent spaces of deep autoencoder models (DAEs) has recently emerged as a promising new approach for optimizing challenging black-box functions over structured, discrete, hard-to-enumerate search spaces (e.g., molecules). Here the DAE dramatically simplifies the search space by mapping inputs into a continuous latent space where familiar Bayesian optimization tools can be more readily applied. Despite this simplification, the latent space typically remains high-dimensional. Thus, even with a well-suited latent space, these approaches do not necessarily provide a complete solution, but may rather shift the structured optimization problem to a high-dimensional one. In this paper, we propose LOL-BO, which adapts the notion of trust regions explored in recent work on high-dimensional Bayesian optimization to the structured setting. By reformulating the encoder to function as both an encoder for the DAE globally and as a deep kernel for the surrogate model within a trust region, we better align the notion of local optimization in the latent space with local optimization in the input space. LOL-BO achieves as much as 20 times improvement over state-of-the-art latent space Bayesian optimization methods across six real-world benchmarks, demonstrating that improvement in optimization strategies is as important as developing better DAE models.

研究动机与目标

• 为解决在分子等结构化输入上的贝叶斯优化中高维潜在空间的挑战。
• 弥合潜在空间中的局部优化与原始输入空间中的局部优化之间的差距。
• 通过将潜在空间模型与局部贝叶斯优化策略协同设计，提升优化效率。
• 证明即使在压缩的潜在空间中，先进的高维贝叶斯优化策略也至关重要。
• 评估表示选择（例如 SELFIES）与联合训练对优化性能的影响。

提出的方法

• LOL-BO 重新设计自编码器，使其在信赖域贝叶斯优化框架中同时充当全局编码器和深度核函数。
• 通过在深度自编码器与稀疏高斯过程代理模型之间进行联合变分推断，以增强与信赖域假设的一致性。
• 采用基于 Transformer 的架构处理 SELFIES 字符串表示，以提升优化性能。
• 在潜在空间中应用信赖域贝叶斯优化（如 TuRBO），其中局部优化被限制在编码器局部行为可良好近似的区域。
• 通过在优化过程中将目标函数评估结果注入潜在空间，实现半监督训练。
• LOL-BO 使用共享编码器同时完成重建与核函数计算，确保输入空间与潜在空间信任区域的一致性。

实验结果

研究问题

• RQ1 信赖域贝叶斯优化策略能否有效适配于结构化输入的潜在空间？
• RQ2 将潜在空间模型与局部优化策略协同设计，是否能优于在预训练潜在空间中使用标准贝叶斯优化？
• RQ3 分子表示选择（如 SELFIES 与 JT-VAE）如何影响潜在空间贝叶斯优化中的性能表现？
• RQ4 自编码器与代理模型的联合训练在多大程度上提升了优化效率？
• RQ5 高维贝叶斯优化方法能否在潜在空间优化背景下被有意义地应用并进一步改进？

主要发现

• 在六个真实世界基准测试中，LOL-BO 相较于最先进潜在空间贝叶斯优化方法，实现了最高达 22 倍的目标值提升。
• 在 TDC DRD3 打分基准测试中，LOL-BO 仅用 10 倍更少的查询次数便达到最佳排行榜方法的性能，展现出卓越的样本效率。
• 在固定潜在空间中，LOL-BO 相较 TuRBO 最多实现 22 倍性能提升，表明潜在空间与优化器的联合训练至关重要。
• 基于 SELFIES 的 VAE 相较 JT-VAE（标准差 0.03）将目标值方差降低至 0.01，表明其潜在空间更稳定，适合优化。
• 在 Guacamol 基准测试中，LOL-BO 相较标准 LS-BO 与 T-LBO 实现 20 倍性能提升，凸显优化策略的重要性。
• 消融实验表明，自编码器与代理模型的联合训练显著提升性能，其中 SELFIES VAE 展现出更优的稳定性与更低的解码目标值噪声。