[论文解读] Combining Latent Space and Structured Kernels for Bayesian Optimization over Combinatorial Spaces

Aryan Deshwal, Janardhan Rao Doppa|arXiv (Cornell University)|Nov 1, 2021

Advanced Multi-Objective Optimization Algorithms被引用 8

一句话总结

LADDER 提出了一种新颖的贝叶斯优化框架，用于组合空间优化，通过将深度生成模型的潜在空间表征与解码后的组合结构上的结构化核相结合，构建了结构耦合核。该混合代理模型在小样本设置下显著优于朴素的潜在空间贝叶斯优化方法，在分子设计和金属有机框架（MOF）设计等真实世界基准上实现了更高的样本效率和优化精度。

ABSTRACT

We consider the problem of optimizing combinatorial spaces (e.g., sequences, trees, and graphs) using expensive black-box function evaluations. For example, optimizing molecules for drug design using physical lab experiments. Bayesian optimization (BO) is an efficient framework for solving such problems by intelligently selecting the inputs with high utility guided by a learned surrogate model. A recent BO approach for combinatorial spaces is through a reduction to BO over continuous spaces by learning a latent representation of structures using deep generative models (DGMs). The selected input from the continuous space is decoded into a discrete structure for performing function evaluation. However, the surrogate model over the latent space only uses the information learned by the DGM, which may not have the desired inductive bias to approximate the target black-box function. To overcome this drawback, this paper proposes a principled approach referred as LADDER. The key idea is to define a novel structure-coupled kernel that explicitly integrates the structural information from decoded structures with the learned latent space representation for better surrogate modeling. Our experiments on real-world benchmarks show that LADDER significantly improves over the BO over latent space method, and performs better or similar to state-of-the-art methods.

研究动机与目标

• 为解决在小样本设置下，贝叶斯优化在潜在空间中表现不佳的问题，此时代理模型缺乏目标黑箱函数的归纳偏置。
• 开发一种系统性方法，将解码后的组合对象（如分子、图）的结构信息与学习到的潜在表征相结合，以实现更优的代理建模。
• 通过结合深度生成模型的表征能力与结构化核的归纳偏置，实现组合空间中有效的贝叶斯优化。
• 证明潜在空间与结构化核之间的协同作用可带来相较于最先进方法更高的优化效率与准确性。
• 提供一种灵活、即插即用的框架，支持多种采集函数，并可自然扩展至多目标、多保真度及约束优化。

提出的方法

• 利用深度生成模型（DGM）从无监督数据库中学习组合结构的连续潜在空间表征。
• 提出一种新颖的结构耦合核，将潜在空间表征与从解码后的组合对象中提取的结构特征（如指纹、图核）相结合。
• 使用结构耦合核构建高斯过程代理模型，通过结构归纳偏置将核函数从已评估点推广至未探索区域。
• 采用联合优化策略，同时学习潜在核与结构核的超参数，以提升泛化能力。
• 在贝叶斯优化循环中使用代理模型，通过采集函数选择高价值候选样本，将其解码并在原始组合空间中评估。
• 支持与任意采集函数的即插即用集成，可自然扩展至多目标、多保真度及约束优化。

实验结果

研究问题

• RQ1 为何标准的潜在空间贝叶斯优化在组合优化的小样本设置下表现不佳？
• RQ2 将潜在空间表征与结构化核特征结合，能否提升代理模型的准确性和优化效率？
• RQ3 与仅使用潜在空间或仅使用结构核相比，所提出的结构耦合核在收敛速度和最终性能方面表现如何？
• RQ4 LADDER 的性能在多大程度上依赖于结构核的选择？在实际应用中如何优化？
• RQ5 LADDER 是否能在包括分子、序列和图在内的多样化组合空间中保持样本效率并实现泛化？

主要发现

• LADDER 在所有真实世界基准上均显著优于朴素潜在空间贝叶斯优化方法，实现更快收敛与更高精度，且函数评估次数更少。
• 在第15轮迭代时，LADDER 的平均性能达到 2.78 ± 0.26，而基线方法（使用指纹）为 2.46 ± 0.32，表明其在早期优化阶段表现更优。
• 到第100轮迭代时，LADDER 的平均性能达到 3.25 ± 0.18，已接近使用指纹核的贝叶斯优化方法的最终性能（3.36 ± 0.23），尽管初始优势更强，仍实现了快速逼近。
• 优化精度的提升可直接归因于改进的代理模型，消融实验表明，潜在特征与结构特征的联合使用比单独使用任一特征更有效。
• LADDER 的性能有望随着潜在空间表征质量的提升而进一步增强；在更大规模无监督数据集上训练 DGM 可进一步缩小或超越基于指纹方法的性能。
• 该方法对核选择具有鲁棒性，并在包括分子和 MOFs 在内的多样化组合空间中均表现出良好泛化能力，展示了其在科学发现工作流中的广泛适用性。