[论文解读] A Bayesian Approach for the Robust Optimisation of Expensive-To-Evaluate Functions.

Nicholas D. Sanders, Richard Everson+2 more|arXiv (Cornell University)|Apr 25, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 26被引用 9

一句话总结

本文提出了一种用于昂贵函数评估的贝叶斯鲁棒优化方法，通过识别设计空间中性能高且对输入变化不敏感的区域来实现。该方法使用高斯过程样本估计所有实现下的期望改进，并通过进化算法进行优化，在多维测试函数上表现出优于最先进方法的收敛性能。

ABSTRACT

Many expensive black-box optimisation problems are sensitive to their inputs. In these problems it makes more sense to locate a region of good designs, than a single, possible fragile, optimal design. Expensive black-box functions can be optimised effectively with Bayesian optimisation, where a Gaussian process is a popular choice as a prior over the expensive function. We propose a method for robust optimisation using Bayesian optimisation to find a region of design space in which the expensive function's performance is insensitive to the inputs whilst retaining a good quality. This is achieved by sampling realisations from a Gaussian process modelling the expensive function and evaluating the improvement for each realisation. The expectation of these improvements can be optimised cheaply with an evolutionary algorithm to determine the next location at which to evaluate the expensive function. We describe an efficient process to locate the optimum expected improvement. We show empirically that evaluating the expensive function at the location in the candidate sweet spot about which the model is most uncertain or at random yield the best convergence in contrast to exploitative schemes. We illustrate our method on six test functions in two, five, and ten dimensions, and demonstrate that it is able to outperform a state-of-the-art approach from the literature.

研究动机与目标

• 为解决昂贵黑箱优化中单一最优设计的局限性，即微小的输入变化可能导致性能下降的问题。
• 识别设计空间中在输入不确定性下性能仍保持较高的鲁棒区域。
• 与传统以开发为主的优化策略相比，提升收敛速度和鲁棒性。
• 开发一种高效的基于采样的方法，以估计模型不确定性下的期望改进。
• 在二维、五维和十维的基准函数上验证该方法的有效性。

提出的方法

• 使用高斯过程作为昂贵函数的先验，以建模不确定性并支持概率推理。
• 对高斯过程进行多次实现采样，以表示可能的真实函数行为。
• 对每个采样实现，计算相对于当前最优值的改进，以评估潜在收益。
• 通过进化算法计算并优化所有采样实现下的期望改进。
• 基于使该期望改进最大化的点选择下一个评估点，平衡探索与鲁棒性。
• 该方法动态聚焦于高不确定性与高性能区域，避免对单一最优点的过拟合。

实验结果

研究问题

• RQ1 贝叶斯优化框架能否识别出函数性能高且对输入变化不敏感的设计空间区域？
• RQ2 在鲁棒优化中，基于采样的期望改进估计与确定性或单路径改进度量相比表现如何？
• RQ3 在获取函数中同时针对不确定性和鲁棒性是否能带来比开发策略更快的收敛速度？
• RQ4 该方法在多维昂贵函数上相较于最先进鲁棒优化方法的表现如何？
• RQ5 使用进化算法优化期望改进目标在多大程度上提升了鲁棒性和收敛性？

主要发现

• 在候选的“最佳区域”（即高性能且低敏感性区域）评估昂贵函数，相比开发策略能实现更好的收敛性能。
• 聚焦于高斯过程模型中最大不确定性的位置，其性能优于随机采样或纯粹贪婪选择。
• 在二维、五维和十维的六个测试函数上，该方法优于一种最先进鲁棒优化方法。
• 利用采样实现计算期望改进，有效平衡了搜索过程中的探索与鲁棒性。
• 进化算法高效优化了期望改进目标，使该方法在高维问题中具备可扩展性和实用性。
• 该方法成功识别出在输入扰动下性能保持稳定的鲁棒区域，验证了其在实际应用中的有效性。