[论文解读] On a New Improvement-Based Acquisition Function for Bayesian Optimization

Umberto Noè, Dirk Husmeier|arXiv (Cornell University)|Aug 21, 2018

Mathematical Approximation and Integration参考文献 2被引用 15

一句话总结

本文提出 ScaledEI，一种新型基于改进的贝叶斯优化获取函数，通过考虑改进估计中的不确定性，提升了查询选择的置信度。在基准函数和肺循环PDE模型上的评估表明，与现有最先进方法相比，ScaledEI以更少的函数评估次数实现了更优或相当的性能，展现出在多种核函数和问题类型下的强大性能与鲁棒性。

ABSTRACT

Bayesian optimization (BO) is a popular algorithm for solving challenging optimization tasks. It is designed for problems where the objective function is expensive to evaluate, perhaps not available in exact form, without gradient information and possibly returning noisy values. Different versions of the algorithm vary in the choice of the acquisition function, which recommends the point to query the objective at next. Initially, researchers focused on improvement-based acquisitions, while recently the attention has shifted to more computationally expensive information-theoretical measures. In this paper we present two major contributions to the literature. First, we propose a new improvement-based acquisition function that recommends query points where the improvement is expected to be high with high confidence. The proposed algorithm is evaluated on a large set of benchmark functions from the global optimization literature, where it turns out to perform at least as well as current state-of-the-art acquisition functions, and often better. This suggests that it is a powerful default choice for BO. The novel policy is then compared to widely used global optimization solvers in order to confirm that BO methods reduce the computational costs of the optimization by keeping the number of function evaluations small. The second main contribution represents an application to precision medicine, where the interest lies in the estimation of parameters of a partial differential equations model of the human pulmonary blood circulation system. Once inferred, these parameters can help clinicians in diagnosing a patient with pulmonary hypertension without going through the standard invasive procedure of right heart catheterization, which can lead to side effects and complications (e.g. severe pain, internal bleeding, thrombosis).

研究动机与目标

• 为解决现有基于改进的获取函数在贝叶斯优化中未考虑改进估计不确定性的问题。
• 开发一种更具鲁棒性的获取函数，以选择具有高期望改进和高改进置信度的查询点。
• 在广泛的全局优化基准函数集上验证所提方法，评估其相对于最先进获取函数的性能表现。
• 通过与标准全局优化求解器比较函数评估次数，展示使用 ScaledEI 的贝叶斯优化在计算效率上的优势。
• 将 ScaledEI 应用于真实世界的精准医学问题：在人体肺循环血流PDE模型中进行参数推断，以支持肺动脉高压的无创诊断。

提出的方法

• 提出一种新型获取函数 ScaledEI，通过将期望改进乘以改进随机变量标准差的倒数进行缩放。
• 在高斯过程代理模型下推导改进度量的方差，以量化改进估计中的不确定性。
• 利用改进方差的解析表达式，定义一种具有置信度感知能力的获取函数，对高不确定性情况进行惩罚。
• 采用自动相关性确定（ARD）核函数，特别是 Matérn 5/2 和平方指数核函数，以适应不同输入维度的敏感性差异。
• 在贝叶斯优化循环中实现 ScaledEI：通过迭代更新高斯过程模型并基于 ScaledEI 准则选择下一个查询点。
• 在多个评估预算下（n=200, 600, 1000）对 ScaledEI 与 RND、MN、LCB、PI、EI 和 MES 进行配对 t 检验，覆盖 12 个基准函数。

实验结果

研究问题

• RQ1 是否可以通过一种考虑改进估计不确定性的新型基于改进的获取函数，实现优于现有方法的优化性能？
• RQ2 在标准全局优化基准测试中，ScaledEI 相较于最先进获取函数（如 EI、LCB、MES）在收敛速度和最终解质量方面表现如何？
• RQ3 与传统全局优化求解器相比，使用 ScaledEI 的贝叶斯优化是否能显著减少昂贵函数评估的次数？
• RQ4 在性能一致性方面，ScaledEI 对不同核函数选择（Matérn 5/2 与平方指数）的鲁棒性如何？
• RQ5 ScaledEI 是否能够在复杂、高维的人体肺循环系统PDE模型中实现准确且高效的参数推断，以支持临床应用？

主要发现

• 在所有基准函数中，ScaledEI 显著优于随机（RND）策略，100% 的比较显示性能更好或相当。
• 在 Matérn 5/2 核函数下，ScaledEI 在 25% 的测试函数中显著优于 EI，且从未显著更差；而在平方指数核函数下情况相反。
• 在 33% 的情况下，使用平方指数核函数时，ScaledEI 的平均 log10 距离到全局最优值显著低于 MES，其余 67% 的情况下无显著差异。
• 在 81% 的比较中，ScaledEI 相对于其他获取函数的性能排名在 Matérn 5/2 和平方指数核函数之间保持一致，表明其对核函数选择具有鲁棒性。
• 在 n=600 次评估时，ScaledEI 在 92% 的测试函数中显著优于所有其他方法，仅 8% 的情况下无显著差异。
• 在肺循环PDE模型上的应用表明，ScaledEI 能够以极少的函数评估次数实现准确的参数推断，支持其在无创临床诊断中的应用。