[论文解读] Escaping local minima with derivative-free methods: a numerical investigation

Coralia Cartis, Lindon Roberts+1 more|arXiv (Cornell University)|Dec 29, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 37被引用 24

一句话总结

本文研究了通过 Py-BOBYQA（一种局部方法）进行无导数信赖域优化在全局优化中的有效性。通过引入改进的重启策略，作者表明，Py-BOBYQA 变体在平滑和乘法噪声问题上，尤其在高精度环境下，表现优于或匹配当前最先进的全局求解器——包括贝叶斯优化、CMA-ES 和 DIRECT。

ABSTRACT

We apply a state-of-the-art, local derivative-free solver, Py-BOBYQA, to global optimization problems, and propose an algorithmic improvement that is beneficial in this context. Our numerical findings are illustrated on a commonly-used but small-scale test set of global optimization problems and associated noisy variants, and on hyperparameter tuning for the machine learning test set MNIST. As Py-BOBYQA is a model-based trust-region method, we compare mostly (but not exclusively) with other global optimization methods for which (global) models are important, such as Bayesian optimization and response surface methods; we also consider state-of-the-art representative deterministic and stochastic codes, such as DIRECT and CMA-ES. As a heuristic for escaping local minima, we find numerically that Py-BOBYQA is competitive with global optimization solvers for all accuracy/budget regimes, in both smooth and noisy settings. In particular, Py-BOBYQA variants are best performing for smooth and multiplicative noise problems in high-accuracy regimes. As a by-product, some preliminary conclusions can be drawn on the relative performance of the global solvers we have tested with default settings.

研究动机与目标

• 评估局部无导数优化方法是否能有效解决通常由全局求解器处理的全局优化问题。
• 研究算法改进（特别是重启策略）对 Py-BOBYQA 在逃离局部极小值方面性能的影响。
• 在平滑和噪声测试问题以及一个真实世界的机器学习超参数调优任务中，将 Py-BOBYQA 变体与广泛的全局优化求解器进行比较。
• 评估无导数方法在高精度和高预算环境下的可扩展性和鲁棒性。
• 提供关于全局求解器在默认配置下相对性能的经验见解，特别是在噪声和光滑环境中的表现。

提出的方法

• 本研究采用 Py-BOBYQA，一种基于模型的无导数信赖域优化求解器，通过软重启和自适应信赖域半径调整进行增强。
• 改进后的 Py-BOBYQA 变体利用从函数评估中构建的二次插值模型，在信赖域内引导局部搜索，并根据收敛行为调整模型和区域大小。
• 该算法在标准全局优化测试集及其噪声变体上进行测试，同时在 MNIST 数据集的超参数调优任务上进行验证。
• 在多个精度水平（低：τ=10⁻²，高：τ=10⁻⁵）和预算范围（10²(n+1) 至 10⁴(n+1) 次函数评估）下评估性能。
• 与当前最先进的全局求解器进行比较：贝叶斯优化（GPyOpt、HyperOpt、PySMAC）、代理方法（SNOBFIT、PySOT）、CMA-ES 和 DIRECT。
• 基于先前基准测试，选择一种采用完整二次插值和自适应重启的 Py-BOBYQA 变体作为性能最佳的配置。

实验结果

研究问题

• RQ1 像 Py-BOBYQA 这样的局部无导数信赖域方法是否能有效在全局优化问题中逃离局部极小值？
• RQ2 在不同噪声类型和精度水平下，改进重启策略的 Py-BOBYQA 与成熟全局优化求解器相比，性能如何？
• RQ3 在哪些场景（精度、预算、噪声类型）下，Py-BOBYQA 能够优于或匹配 CMA-ES、DIRECT 和贝叶斯优化等全局求解器？
• RQ4 全局求解器在标准测试问题和真实世界机器学习任务中的默认配置下，性能表现如何比较？
• RQ5 在高精度、高预算设置下，Py-BOBYQA 相较于其他全局求解器的相对可扩展性和鲁棒性如何？

主要发现

• 在平滑和乘法噪声问题的高精度环境下，改进后的 Py-BOBYQA 变体优于所有其他求解器，整体表现最佳。
• 在平滑问题且高精度（τ=10⁻⁵）下，最佳 Py-BOBYQA 变体为表现最优的求解器，紧随其后的是 DIRECT。
• 在乘法噪声问题中，Py-BOBYQA 和 DIRECT 在高精度环境下表现出相当强的性能。
• 在加法噪声下，DIRECT 表现最佳，其次是 PySOT 和 Py-BOBYQA，表明其对这种噪声类型的鲁棒性。
• 在 MNIST 超参数调优任务中，DIRECT 和 PySOT 表现最佳，最佳 Py-BOBYQA 变体仅略逊一筹。
• 在低精度环境下，PySOT 和最佳 Py-BOBYQA 变体优于其他贝叶斯和代理求解器，其中 PySOT 平均表现略优。