[论文解读] Cost-aware Multi-objective Bayesian optimisation

Majid Abdolshah, Alistair Shilton+3 more|arXiv (Cornell University)|Sep 9, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 21被引用 8

一句话总结

本文提出成本感知多目标贝叶斯优化（CA-MOBO），通过利用用户定义的成本感知约束来整合非均匀评估成本的多目标优化。通过结合基于切比雪夫标量化和线性可扩展的遗憾分析的成本感知获取函数，CA-MOBO 初始阶段优先选择成本较低的输入组合，同时保持帕累托最优性，在神经网络和随机森林超参数调优实验中，将昂贵超参数的使用量降低了高达50%。

ABSTRACT

The notion of expense in Bayesian optimisation generally refers to the uniformly expensive cost of function evaluations over the whole search space. However, in some scenarios, the cost of evaluation for black-box objective functions is non-uniform since different inputs from search space may incur different costs for function evaluations. We introduce a cost-aware multi-objective Bayesian optimisation with non-uniform evaluation cost over objective functions by defining cost-aware constraints over the search space. The cost-aware constraints are a sorted tuple of indexes that demonstrate the ordering of dimensions of the search space based on the user's prior knowledge about their cost of usage. We formulate a new multi-objective Bayesian optimisation acquisition function with detailed analysis of the convergence that incorporates this cost-aware constraints while optimising the objective functions. We demonstrate our algorithm based on synthetic and real-world problems in hyperparameter tuning of neural networks and random forests.

研究动机与目标

• 解决现有方法在贝叶斯优化中假设评估成本均匀分布，而实际输入维度间评估成本非均匀分布的问题。
• 开发一种框架，将基于输入维度成本先验知识的用户定义成本感知约束整合到多目标优化中。
• 确保初始探索阶段集中于成本较低的输入区域，同时随时间逐渐放松成本约束，以维持对完整帕累托前沿的收敛。
• 设计一种可扩展的获取函数，支持多目标问题，并实现理论上的遗憾边界。
• 在合成数据和真实世界超参数调优任务（涉及神经网络和随机森林）中对方法进行实证验证。

提出的方法

• 该方法将成本感知约束表示为输入维度索引的有序元组，反映用户对各输入维度相对成本的先验知识（例如，维度1比维度2更昂贵）。
• 提出一种新型获取函数，结合目标函数的切比雪夫标量化与成本函数分量，对高成本输入施加惩罚，从而在性能与成本之间实现权衡。
• 该获取函数设计为与目标数量呈线性关系，支持多目标问题，优于基于超体积的替代方法。
• 算法随时间动态降低成本约束的影响，以允许在初始阶段优先选择低成本输入的同时，最终实现对帕累托前沿的全面探索。
• 定义并上界化理论遗憾，为所提出的成本感知框架提供收敛保证。
• 该方法使用高斯过程进行代理建模，并在真实和合成实验中与 MO-UCB 进行比较。

实验结果

研究问题

• RQ1 多目标贝叶斯优化框架能否有效整合输入维度间非均匀的评估成本？
• RQ2 成本感知约束应如何形式化建模并集成到获取函数中，以引导初始探索向成本较低的区域进行？
• RQ3 所提出的 CA-MOBO 方法在减少昂贵输入维度使用量的同时，是否仍能保持帕累托最优性？
• RQ4 与标准 MOBO 相比，该成本感知获取函数在累积成本（如昂贵超参数的使用数量）方面能降低多少？
• RQ5 该算法的理论遗憾是否被上界控制？该上界在非均匀成本条件下是否依然成立？

主要发现

• 在合金成分实验中，CA-MOBO 使用了 32.1g 镍，而普通贝叶斯优化使用了 54.1g，昂贵输入使用量减少了 40.7%。
• 在随机森林超参数调优任务中，CA-MOBO 在 500 次迭代中将所选估计器总数（x₁）减少了 49.6%（71.4 vs. 141.8），优于 MO-UCB。
• 在神经网络调优实验中，CA-MOBO 在 300 次迭代中将隐藏层数的累积和减少了 41.2%（205.7 vs. 349.5），显示出显著的成本节约。
• CA-MOBO 在早期迭代中表现出更高的初始被支配超体积和更低的累积遗憾，表明其能更快收敛到高质量且成本高效的解。
• 由于初始阶段的成本感知探索，该方法在低成本、高误差区域产生了更多样化的帕累托前沿，提升了在成本敏感区域的解多样性。
• 理论分析证实，CA-MOBO 的遗憾存在上界，支持在所提出的成本感知框架下的收敛性。