[论文解读] mlrMBO: A Modular Framework for Model-Based Optimization of Expensive Black-Box Functions

Bernd Bischl, Jakob Richter+4 more|arXiv (Cornell University)|Mar 9, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 9被引用 134

一句话总结

mlrMBO 是一个用于基于模型的优化（贝叶斯优化）的 R 工具箱，能够处理具有混合参数空间的昂贵黑箱函数，提供用于代理模型、填充准则和多目标优化的模块化组件。它在基准测试中对抗若干竞争对手显示出最先进的性能。

ABSTRACT

We present mlrMBO, a flexible and comprehensive R toolbox for model-based optimization (MBO), also known as Bayesian optimization, which addresses the problem of expensive black-box optimization by approximating the given objective function through a surrogate regression model. It is designed for both single- and multi-objective optimization with mixed continuous, categorical and conditional parameters. Additional features include multi-point batch proposal, parallelization, visualization, logging and error-handling. mlrMBO is implemented in a modular fashion, such that single components can be easily replaced or adapted by the user for specific use cases, e.g., any regression learner from the mlr toolbox for machine learning can be used, and infill criteria and infill optimizers are easily exchangeable. We empirically demonstrate that mlrMBO provides state-of-the-art performance by comparing it on different benchmark scenarios against a wide range of other optimizers, including DiceOptim, rBayesianOptimization, SPOT, SMAC, Spearmint, and Hyperopt.

研究动机与目标

• 通过用代理模型近似目标函数来应对昂贵的黑箱优化。
• 支持对混合连续、分类和条件参数进行单目标和多目标优化。
• 提供可模块化、可替换的组件（代理、填充准则、优化器）以及并行化。
• 在合成和真实世界基准测试中展示最先进的性能。

提出的方法

• 采用顺序模型基优化循环，将代理拟合到已评估的点，并通过填充准则提出新点。
• 通过数值数据使用 Kriging 等代理模型、对于混合数据使用随机森林来实现混合空间，并通过原生或基于袋装的方式进行不确定性估计。
• 使用如 EI（期望改进）和 LCB（下界）等填充准则来平衡开发和探索，并包含用于嘈杂和多目标设置的选项。
• 提供多点提案（qLCB、kriging believer）以及并行评估的策略。
• 提供模块化设计，初始设计、代理、填充准则、优化器和终止条件可以插入或替换。

实验结果

研究问题

• RQ1 在单目标问题上，mlrMBO 相对于其他贝叶斯优化工具的表现如何？
• RQ2 mlrMBO 能否有效处理带有条件参数的混合或分层参数空间？
• RQ3 多点提案与多目标策略对优化性能的影响是什么？
• RQ4 代理选择（Kriging 与随机森林）及不确定性估计方法如何影响填充决策？

主要发现

• 在基准场景中，mlrMBO 的性能达到并超过若干其他优化器的最先进水平。
• 通过灵活的代理模型和缺失值的插补，支持混合参数空间和条件参数。
• 它提供多种填充和多点提案策略，以实现并行评估。
• 该软件包包含多目标优化能力，并显示了在超参数调优和机器学习管道中的适用性。
• 基准测试表明 mlrMBO 在各种任务上通常优于 DiceOptim、rBayesianOptimization、SPOT 和 CMA-ES。