[论文解读] GIBBON: General-purpose Information-Based Bayesian OptimisatioN

Henry B. Moss, David S. Leslie+2 more|Lancaster EPrints (Lancaster University)|Feb 5, 2021

Advanced Multi-Objective Optimization Algorithms参考文献 82被引用 8

一句话总结

GIBBON 提出了一种通用、计算高效的基于信息论的贝叶斯优化框架，通过单一的原理性采集函数统一了批量、多保真度以及结构化离散输入空间的优化。它通过一种新颖的信息增益近似方法，实现了更低的计算开销，从而在非欧几里得空间（如分子设计和基因设计）中实现了高性能的批量贝叶斯优化。

ABSTRACT

This paper describes a general-purpose extension of max-value entropy search, a popular approach for Bayesian Optimisation (BO). A novel approximation is proposed for the information gain -- an information-theoretic quantity central to solving a range of BO problems, including noisy, multi-fidelity and batch optimisations across both continuous and highly-structured discrete spaces. Previously, these problems have been tackled separately within information-theoretic BO, each requiring a different sophisticated approximation scheme, except for batch BO, for which no computationally-lightweight information-theoretic approach has previously been proposed. GIBBON (General-purpose Information-Based Bayesian OptimisatioN) provides a single principled framework suitable for all the above, out-performing existing approaches whilst incurring substantially lower computational overheads. In addition, GIBBON does not require the problem's search space to be Euclidean and so is the first high-performance yet computationally light-weight acquisition function that supports batch BO over general highly structured input spaces like molecular search and gene design. Moreover, our principled derivation of GIBBON yields a natural interpretation of a popular batch BO heuristic based on determinantal point processes. Finally, we analyse GIBBON across a suite of synthetic benchmark tasks, a molecular search loop, and as part of a challenging batch multi-fidelity framework for problems with controllable experimental noise.

研究动机与目标

• 解决在结构化离散空间上进行通用批量贝叶斯优化时缺乏计算轻量、基于信息论的采集函数的问题。
• 基于信息增益近似，在单一原理性框架中统一处理批量、多保真度和连续优化。
• 克服现有最大值熵搜索（MES）扩展方法的局限性，这些方法通常需要复杂的近似或仅限于欧几里得空间。
• 在涉及昂贵、噪声大或并行评估的实际科学应用中（如分子设计和超参数调优）实现高性能的贝叶斯优化。
• 为基于行列式点过程的现有启发式批量贝叶斯优化方法提供理论基础解释。

提出的方法

• 提出一种新颖且可计算的贝叶斯优化中信息增益的近似方法，实现采集函数的高效计算。
• 基于最大值熵搜索推导出一种支持批量、多保真度和离散结构化输入的通用采集函数。
• 利用共享长度尺度的高斯过程代理模型，同时应用于上下界，以提高模型稳定性并减少参数数量。
• 引入一种计算高效的基于采样的信息增益近似方法，避免高维数值积分。
• 将采集函数表述为可微目标函数，可使用标准优化方法进行优化。
• 通过将采集函数与搜索空间的几何假设解耦，实现对非欧几里得输入空间的支持。

实验结果

研究问题

• RQ1 能否设计出一个单一的、统一的信息论采集函数，以极低的计算成本支持批量、多保真度和结构化离散优化？
• RQ2 所提出的近似方法在计算效率和优化性能方面与现有方法相比如何？
• RQ3 该框架在涉及昂贵、噪声大或并行评估的实际科学问题中，其适用范围有多大？
• RQ4 该框架是否能为基于行列式点过程的现有启发式批量贝叶斯优化方法提供一个原理性解释？
• RQ5 在多样化的基准任务中，该框架是否能在收敛速度和最终解质量方面超越现有最先进方法？

主要发现

• 在合成基准、分子搜索和多保真度优化任务中，GIBBON 在收敛速度和最终解质量方面均优于现有基于信息论的贝叶斯优化方法。
• 在分子设计和基因设计等结构化离散空间的批量贝叶斯优化中，该框架实现了最先进性能，而此前的方法或不可行或计算成本过高。
• 与现有基于MES的方法相比，GIBBON 显著降低了计算开销，尤其在批量和多保真度设置中，避免了复杂的数值积分。
• 该方法在实际应用中表现强劲，包括在IMDB情感分类和强化学习（Lunar Lander）中的超参数调优，仅用较少的评估次数即实现了高精度。
• GIBBON的推导为在批量贝叶斯优化中使用行列式点过程提供了原理性依据，将一种流行的启发式方法与信息论原则联系起来。
• 即使在初始数据有限的情况下，GIBBON 仍能保持高性能，由于其采用参数共享的高斯过程模型，所需初始评估次数少于FASTCV等竞争方法。