[论文解读] Multi-Objective Bayesian Optimization over High-Dimensional Search Spaces

Samuel Daulton, David Eriksson+2 more|arXiv (Cornell University)|Sep 22, 2021

Advanced Multi-Objective Optimization Algorithms被引用 24

一句话总结

MORBO 是一种可扩展的多目标贝叶斯优化方法，通过协调的局部信任区域（TR）高效探索高维搜索空间中的帕累托前沿多样化区域。通过利用局部高斯过程模型和协作候选选择，MORBO 在包含多达 222 个参数的问题上，相较于最先进方法实现了数量级的样本效率提升，涵盖真实世界的光学与车辆设计任务。

ABSTRACT

Many real world scientific and industrial applications require optimizing multiple competing black-box objectives. When the objectives are expensive-to-evaluate, multi-objective Bayesian optimization (BO) is a popular approach because of its high sample efficiency. However, even with recent methodological advances, most existing multi-objective BO methods perform poorly on search spaces with more than a few dozen parameters and rely on global surrogate models that scale cubically with the number of observations. In this work we propose MORBO, a scalable method for multi-objective BO over high-dimensional search spaces. MORBO identifies diverse globally optimal solutions by performing BO in multiple local regions of the design space in parallel using a coordinated strategy. We show that MORBO significantly advances the state-of-the-art in sample efficiency for several high-dimensional synthetic problems and real world applications, including an optical display design problem and a vehicle design problem with 146 and 222 parameters, respectively. On these problems, where existing BO algorithms fail to scale and perform well, MORBO provides practitioners with order-of-magnitude improvements in sample efficiency over the current approach.

研究动机与目标

• 解决在高维搜索空间中优化多个相互竞争的黑箱目标的挑战，传统贝叶斯优化因可扩展性和样本效率问题而失效。
• 通过在每个信任区域使用局部代理模型，克服大规模样本场景下全局高斯过程推理的立方时间复杂度。
• 在高维问题中有效探索帕累托前沿不连通区域之间的多样化、全局最优权衡。
• 开发一种可扩展的协作框架，通过在多个局部区域间共享观测并协调优化，提升收敛速度和覆盖范围。
• 提供一种方法，在高维真实世界和合成问题中，相较于 NSGA-II、q-NEHVI 和 q-ParEGO 等最先进方法，在样本效率和最终超体积方面表现更优。

提出的方法

• MORBO 在设计空间中分布多个局部信任区域（TR），每个 TR 以不同的帕累托最优权衡为中心，确保对全局帕累托前沿的多样化探索。
• 每个 TR 维护一个局部高斯过程（GP）代理模型，将推理时间复杂度从 O(n³) 降低至 O(n_T³)，其中 n_T 为每个 TR 的局部观测数。
• 所有 TR 的观测在全球范围内共享，使每个局部模型能够从重叠区域收集的数据中受益，提升模型精度和样本效率。
• 通过在所有 TR 间协作最大化全局效用函数，选择一批候选点，确保对搜索空间的协调且高效的探索。
• MORBO 动态终止表现不佳的 TR，并根据具有理论性能保证的全局策略分配新的 TR，从而提升长期优化效率。
• 该方法采用中心选择策略，将 TR 置于帕累托前沿上分布良好的点，以有效覆盖不连通或复杂的权衡区域。

实验结果

研究问题

• RQ1 多目标贝叶斯优化能否在包含数百个参数的高维问题中有效扩展，使得全局代理模型在计算上变得不可行？
• RQ2 在具有复杂、不连通帕累托前沿的高维多目标黑箱优化问题中，如何高效探索多样化且全局最优的权衡？
• RQ3 与全局模型相比，共享数据的局部代理模型在高维设置下能在多大程度上提升样本效率并降低计算成本？
• RQ4 在高维合成和真实世界问题中，MORBO 相较于 NSGA-II、q-NEHVI 和 q-ParEGO 等最先进方法，在样本效率和最终超体积方面表现如何？
• RQ5 协作的多信任区域方法在复杂高维设计空间中，是否能实现比单区域或非协调方法更好的帕累托前沿覆盖范围和更快的收敛速度？

主要发现

• 在 146 维的光学显示设计问题中，MORBO 在超体积和覆盖范围方面显著优于 NSGA-II 和 Sobol，在完整的 10,000 次评估运行中展现出更优的权衡探索能力。
• 在 222 维的马自达车辆设计问题中，MORBO 在减少车辆质量方面优于 NSGA-II，同时更广泛地探索了质量与通用零部件之间的权衡区域，这是关键的工业约束。
• 在 100 维的 DTLZ 问题中，MORBO 在四目标问题中平均排名最低（1.67），并在 DTLZ7 和 DTLZ3 中最终超体积排名第一，优于 q-NEHVI 和 q-ParEGO。
• 在 100 维轨迹规划问题中，MORBO 的候选生成速度比 q-ParEGO 和 q-NEHVI 快两个数量级，展现出卓越的计算可扩展性。
• 在 4 维的焊接梁问题中，MORBO 的帕累托前沿覆盖范围优于所有基线方法，即使在低维情况下也表现出色，凸显其在不同问题规模下的鲁棒性。
• MORBO 在最差、中等和最佳重复实验中均实现了高超体积和良好的覆盖范围，表明其在优化性能上具有强大的可靠性与稳定性。