[论文解读] Ordinal Bayesian Optimisation

Victor Picheny, Sattar Vakili+1 more|arXiv (Cornell University)|Dec 5, 2019

Gaussian Processes and Bayesian Inference参考文献 18被引用 6

一句话总结

本文提出了一种名为序数贝叶斯优化（Ordinal Bayesian Optimisation）的新框架，通过序数变形（ordinal warping）转换输入和输出空间，仅保留相对排序信息，从而在病态条件或不连续的目标函数上实现鲁棒的贝叶斯优化。通过在潜在的序数空间中拟合高斯过程，该方法在乐观采集策略下实现了最优遗憾边界，在具有非光滑或不连续函数的挑战性测试问题上优于标准贝叶斯优化。

ABSTRACT

Bayesian optimisation is a powerful tool to solve expensive black-box problems, but fails when the stationary assumption made on the objective function is strongly violated, which is the case in particular for ill-conditioned or discontinuous objectives. We tackle this problem by proposing a new Bayesian optimisation framework that only considers the ordering of variables, both in the input and output spaces, to fit a Gaussian process in a latent space. By doing so, our approach is agnostic to the original metrics on the original spaces. We propose two algorithms, respectively based on an optimistic strategy and on Thompson sampling. For the optimistic strategy we prove an optimal performance under the measure of regret in the latent space. We illustrate the capability of our framework on several challenging toy problems.

研究动机与目标

• 解决标准贝叶斯优化在因违反平稳性假设而导致病态或不连续目标函数时失效的问题。
• 开发一种与度量无关的优化框架，仅依赖于输入和输出空间中的序数关系。
• 证明在潜在序数空间中基于上置信度界（UCB）的采集策略的遗憾最优性。
• 在严重非光滑和不连续的测试函数上展示该框架的有效性。

提出的方法

• 使用保持秩次的变换对输入和输出空间同时应用序数变形，将实值输入和输出转换为有序离散表示。
• 在变换后的序数数据上拟合潜在高斯过程模型，实现灵活且鲁棒的代理建模。
• 在输出空间中采用变分形式进行序数回归，实现无需假设输出结构为连续的概率推断。
• 采用基于下降的优化策略学习保持序数结构的输入空间变形函数。
• 将潜在高斯过程模型与标准采集函数（特别是上置信度界（UCB）和汤普森采样）结合，用于序列决策。
• 实现树搜索以在序数约束下高效探索潜在空间，同时保持计算可行性。

实验结果

研究问题

• RQ1 能否通过摆脱对原始度量空间的依赖，使贝叶斯优化在病态和不连续目标函数上更具鲁棒性？
• RQ2 仅保留相对排序信息的序数变形策略，是否能在高conditioning或非Lipschitz问题中实现有效优化？
• RQ3 能否在潜在序数空间中为乐观采集策略建立最优遗憾边界？
• RQ4 所提出方法在非光滑、不连续测试函数上的性能与标准贝叶斯优化相比如何？

主要发现

• 所提框架在潜在序数空间中采用上置信度界采集策略时，实现了最优遗憾边界，累积遗憾边界为 $ O(eta_n^{1/2} ext{Tr}(oldsymbol{ u}_n)) $，其中 $ oldsymbol{ u}_n $ 捕获了潜在空间中的不确定性。
• 在具有强烈边界变化和不连续性的测试问题上，该方法表现优于标准贝叶斯优化，后者在此类问题上失效。
• 理论分析表明，潜在空间中的信息增益在序数变形下保持有界，从而支持收敛性保证。
• 该框架是首个通过仅依赖输入和输出空间中序数关系实现与度量无关的贝叶斯优化的方法。
• 在五个测试函数上的实验结果表明，与基线标准贝叶斯优化相比，该序数方法在病态和不连续目标函数上始终显著降低了累积遗憾。