[论文解读] What do you Mean? The Role of the Mean Function in Bayesian Optimisation

George De Ath, Jonathan E. Fieldsend+1 more|Open Research Exeter (University of Exeter)|Apr 17, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 40被引用 5

一句话总结

本文研究了在基于高斯过程的贝叶斯优化中不同均值函数的影响，发现将最差观测到的函数值用作常数均值函数，能通过增强利用性，在高维合成问题中持续加速收敛。该方法优于标准的算术平均等选择，推荐在高维设置下与期望改进（Expected Improvement）结合使用。

ABSTRACT

Bayesian optimisation is a popular approach for optimising expensive black-box functions. The next location to be evaluated is selected via maximising an acquisition function that balances exploitation and exploration. Gaussian processes, the surrogate models of choice in Bayesian optimisation, are often used with a constant prior mean function equal to the arithmetic mean of the observed function values. We show that the rate of convergence can depend sensitively on the choice of mean function. We empirically investigate 8 mean functions (constant functions equal to the arithmetic mean, minimum, median and maximum of the observed function evaluations, linear, quadratic polynomials, random forests and RBF networks), using 10 synthetic test problems and two real-world problems, and using the Expected Improvement and Upper Confidence Bound acquisition functions. We find that for design dimensions $\ge5$ using a constant mean function equal to the worst observed quality value is consistently the best choice on the synthetic problems considered. We argue that this worst-observed-quality function promotes exploitation leading to more rapid convergence. However, for the real-world tasks the more complex mean functions capable of modelling the fitness landscape may be effective, although there is no clearly optimum choice.

研究动机与目标

• 研究不同均值函数对贝叶斯优化性能的影响，特别是收敛速度和解的质量。
• 确定非标准均值函数（超越常见的零均值或算术平均）是否能改善优化结果。
• 评估均值函数的选择在合成基准与真实世界问题之间是否存在效果差异。
• 为一种简单而有效的均值函数策略提供实证依据，以增强高维优化中的利用性。

提出的方法

• 评估了八种均值函数：常数函数（观测值的算术平均、最小值、中位数、最大值）、线性与二次多项式、随机森林和RBF网络。
• 在维度为2至10的10个合成测试问题和2个人工真实问题上，使用期望改进和上置信界获取函数进行贝叶斯优化。
• 初始样本在约束区域内均匀抽取，使用CMA-ES优化获取函数，同时对违反约束的情况施加惩罚。
• 通过51次独立运行的中位数遗憾和四分位距衡量收敛性，使用非参数检验评估统计等价性。
• 在本研究中，均值函数在优化过程中保持固定，未联合学习均值与核超参数。
• 性能基于收敛速度和所找到最优解的质量进行评估。

实验结果

研究问题

• RQ1 在高斯过程模型中，均值函数的选择是否显著影响贝叶斯优化中的收敛速度？
• RQ2 在合成与真实世界优化问题上，不同均值函数（常数、多项式、非参数）的性能如何比较？
• RQ3 是否存在一种均值函数在高维设置下能持续优于零均值或算术平均等标准选择？
• RQ4 为何均值函数在合成基准与真实应用中的表现存在差异？

主要发现

• 在设计维度≥5时，使用最差观测函数值作为常数均值函数（Max）在合成问题上始终优于其他均值函数，显著加速收敛。
• Max均值函数在九个合成测试函数中与最佳性能均值函数无统计差异，表明其在多样化函数景观中具有鲁棒性。
• 在真实世界问题（PitzDaily和机器人推动物体）中，Max均值函数表现与常用算术均值相当，但无单一均值函数明显占优。
• Max均值函数通过设定保守的先验期望，促进利用性，从而在高维空间中提升收敛性，其中探索性由模型不确定性隐式提供。
• 合成基准可能无法反映真实世界问题的函数景观，表现为不同问题类型间均值函数性能不一致。
• 结果表明，一种简单、数据驱动的常数均值函数（即最差观测值）是高维贝叶斯优化中使用期望改进时的强有力默认选择。