[论文解读] Bayesian Optimization with Output-Weighted Importance Sampling.

Antoine Blanchard, Themistoklis P. Sapsis|arXiv (Cornell University)|Apr 22, 2020

Gaussian Processes and Bayesian Inference参考文献 16被引用 4

一句话总结

本文提出了一种贝叶斯优化框架，利用似然比作为输出加权重要性采样，以引导搜索聚焦于产生异常大或小目标值的输入。通过使用似然比对获取函数进行加权，该方法在高维设置下相比无权重方法显著提升了优化效率与性能。

ABSTRACT

In Bayesian optimization, accounting for the importance of the output relative to the input is a crucial yet challenging exercise, as it can considerably improve the final result but often involves inaccurate and cumbersome entropy estimations. We approach the problem from the perspective of importance-sampling theory, and advocate the use of the likelihood ratio to guide the search algorithm towards regions of the input space where the objective function assumes abnormally large or small values. The likelihood ratio acts as a sampling weight and can be computed at each iteration without severely deteriorating the overall efficiency of the algorithm. In particular, it can be approximated in a way that makes the approach tractable in high dimensions. The likelihood-weighted acquisition functions introduced in this work are found to outperform their unweighted counterparts in a number of applications.

研究动机与目标

• 为解决在不依赖不准确熵估计的前提下，将输出重要性整合到贝叶斯优化中的挑战。
• 开发一种基于目标函数值似然比的可计算方法，用于基于输出重要性的搜索加权。
• 通过聚焦于输出显著偏离正常水平的区域，提升优化性能。
• 通过似然权重的可计算近似，实现在高维输入空间中的高效应用。

提出的方法

• 使用似然比作为采样权重，突出那些产生极端目标值的输入。
• 推导基于似然比加权的获取函数，以引导优化过程。
• 在每次迭代中对似然比进行近似，以保持计算效率。
• 应用重要性采样理论，根据输出显著性重新加权搜索分布。
• 将加权获取函数集成到标准的贝叶斯优化循环中，采用高斯过程先验。
• 通过似然比的可计算近似，实现高维空间中的可扩展性。

实验结果

研究问题

• RQ1 似然比能否有效用于基于输出重要性的贝叶斯优化获取函数加权？
• RQ2 与标准获取函数相比，输出加权采样在收敛性和性能方面表现如何？
• RQ3 似然加权方法是否能在提升极端目标值搜索效率的同时保持效率？
• RQ4 似然加权采样在高维优化问题中的影响是什么？
• RQ5 在不降低优化性能的前提下，似然比能否被准确近似？

主要发现

• 似然加权获取函数在多个基准应用中均优于其无权重对应方法。
• 该方法能有效引导搜索聚焦于产生异常大或小目标值的输入。
• 似然比可在每次迭代中高效计算与近似，且计算开销可忽略不计。
• 该方法在高维输入空间中仍保持可计算性与有效性。
• 使用输出加权重要性采样通过聚焦于输入空间中功能上显著的区域，提升了优化效率。
• 实验结果表明，在各种设置下，该方法均一致地优于标准贝叶斯优化。