[论文解读] Many Objective Bayesian Optimization

Lucia Asencio Martín, Eduardo C. Garrido‐Merchán|arXiv (Cornell University)|Jul 8, 2021

Advanced Multi-Objective Optimization Algorithms被引用 4

一句话总结

本文提出了一种多目标贝叶斯优化算法，通过引入一种新颖的高斯过程（GP）预测分布相似性度量，检测并消除冗余目标，从而在不降低解质量的前提下降低计算成本。该方法识别出高度相似的目标（例如在深度神经网络超参数调优中，预测时间和模型大小），并提前停止对这些目标的评估，从而有效将多目标问题转化为多目标问题，同时保持性能。

ABSTRACT

Some real problems require the evaluation of expensive and noisy objective functions. Moreover, the analytical expression of these objective functions may be unknown. These functions are known as black-boxes, for example, estimating the generalization error of a machine learning algorithm and computing its prediction time in terms of its hyper-parameters. Multi-objective Bayesian optimization (MOBO) is a set of methods that has been successfully applied for the simultaneous optimization of black-boxes. Concretely, BO methods rely on a probabilistic model of the objective functions, typically a Gaussian process. This model generates a predictive distribution of the objectives. However, MOBO methods have problems when the number of objectives in a multi-objective optimization problem are 3 or more, which is the many objective setting. In particular, the BO process is more costly as more objectives are considered, computing the quality of the solution via the hyper-volume is also more costly and, most importantly, we have to evaluate every objective function, wasting expensive computational, economic or other resources. However, as more objectives are involved in the optimization problem, it is highly probable that some of them are redundant and not add information about the problem solution. A measure that represents how similar are GP predictive distributions is proposed. We also propose a many objective Bayesian optimization algorithm that uses this metric to determine whether two objectives are redundant. The algorithm stops evaluating one of them if the similarity is found, saving resources and not hurting the performance of the multi-objective BO algorithm. We show empirical evidence in a set of toy, synthetic, benchmark and real experiments that GPs predictive distributions of the effectiveness of the metric and the algorithm.

研究动机与目标

• 为解决在4个及以上目标的多目标贝叶斯优化（MOBO）中计算成本过高的挑战。
• 识别并消除在MOBO中提供极少额外信息的冗余目标函数。
• 开发一种针对GP预测分布的相似性度量，捕捉其对优化的相关性，而不仅仅是分布重叠。
• 设计一种能够基于相似性度量动态移除冗余目标的多目标BO算法。
• 通过实证验证，移除冗余目标不会降低最终推荐结果的质量。

提出的方法

• 提出一种聚焦于高优化相关区域的GP预测分布相似性度量，而非整个分布的支持区域。
• 采用基于阈值的方法：若两个目标之间的相似度超过阈值，则认为其中一个为冗余目标并予以移除。
• 利用GP协方差矩阵差异的Frobenius范数导出的距离度量来量化预测分布的相似性。
• 将相似性度量集成到贝叶斯优化循环中，迭代评估目标，并移除与其它目标高度相似的目标。
• 配置超参数δ（相似度阈值）和ε（删除容差），以在资源节省与解的保真度之间取得平衡。
• 将该算法应用于合成任务、基准测试以及真实世界的DNN超参数调优任务，以检验其鲁棒性与有效性。

实验结果

研究问题

• RQ1 针对GP预测分布的相似性度量是否能有效识别多目标优化中的冗余目标？
• RQ2 基于该度量移除冗余目标是否能降低计算成本而不损害最终推荐结果的质量？
• RQ3 阈值参数δ和ε的选择如何影响资源节省与解性能之间的权衡？
• RQ4 该算法是否能在优化过程早期检测到冗余目标，特别是在目标高度相关的情况下？
• RQ5 该度量在多样化的合成、基准和真实世界优化问题中是否具有鲁棒性？

主要发现

• 在DNN超参数调优实验中，该算法成功检测到预测时间与模型大小高度相似（距离 = 0.0006），并因此删除了大小目标。
• 在更严格的超参数设置下（δ=20，ε=0.05），该算法更早检测到冗余性（在第21轮迭代时），并记录到冗余目标之间更低的相似度距离（0.0004）。
• 冗余目标与预测误差目标之间的距离保持较高（0.75），证实仅真正相似的目标被移除。
• 尽管移除了冗余目标，最终推荐质量仍得以保持，表明性能未出现退化。
• 该方法有效减少了优化过程中的目标数量，将多目标问题成功转化为标准的多目标问题。
• 该相似性度量在目标并非完全相同时，仍能有效识别相关目标，显示出在真实场景中的鲁棒性。