[论文解读] Better call Surrogates: A hybrid Evolutionary Algorithm for Hyperparameter optimization

Subhodip Biswas, Adam D. Cobb+3 more|arXiv (Cornell University)|Dec 11, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 17被引用 10

一句话总结

该论文提出SteaDE，一种混合进化算法，结合径向基函数（RBF）代理建模、贝叶斯优化（BO）和差分进化（DE），以实现高效的超参数优化。通过首先使用RBF探索搜索空间，随后将知识迁移至基于高斯过程（GP）的BO框架，并在DE中引入一种新型贝叶斯变异机制，SteaDE在低预算超参数调优任务中实现了卓越的样本效率和性能，优于NeurIPS 2020黑箱优化挑战赛中的独立BO、DE和RBF方法。

ABSTRACT

In this paper, we propose a surrogate-assisted evolutionary algorithm (EA) for hyperparameter optimization of machine learning (ML) models. The proposed STEADE model initially estimates the objective function landscape using RadialBasis Function interpolation, and then transfers the knowledge to an EA technique called Differential Evolution that is used to evolve new solutions guided by a Bayesian optimization framework. We empirically evaluate our model on the hyperparameter optimization problems as a part of the black box optimization challenge at NeurIPS 2020 and demonstrate the improvement brought about by STEADE over the vanilla EA.

研究动机与目标

• 解决机器学习中目标函数评估成本高且缺乏梯度信息的超参数优化（HPO）挑战。
• 通过将代理模型与进化算法结合，在低预算优化场景中提升样本效率。
• 在随时间自适应的混合框架中，平衡探索（通过RBF和BO）与开发（通过DE）。
• 展示从RBF代理模型向基于高斯过程（GP）的贝叶斯优化框架进行知识迁移策略的有效性。
• 提供一种可扩展、高效且鲁棒的优化方法，适用于严格计算约束下的真实世界机器学习超参数调优。

提出的方法

• SteaDE首先使用径向基函数（RBF）代理模型，通过初始实验设计（如对称拉丁超立方采样，SLHD）估计目标函数的景观。
• 随后切换至基于高斯过程（GP）代理的贝叶斯优化（BO）框架，利用qEI等采集函数指导有信息量的采样。
• 在差分进化（DE）中引入一种新型贝叶斯变异机制，通过组合BO生成的解、RBF生成的解以及基于DE的全局到局部探索项，生成候选向量。
• 变异方程整合了BO驱动的探索、基于RBF的多样性以及随时间衰减的随机分量，以平衡全局与局部搜索。
• 算法使用混合采集函数（qEI结合随机准蒙特卡洛采样）以高效并行建议多个采样点，提升计算效率。
• 在初始的RBF探索之后，算法过渡到基于DE的搜索，采用贝叶斯变异机制，在保持种群多样性的同时聚焦于有希望的区域。

实验结果

研究问题

• RQ1 结合代理建模与进化算法的混合方法是否能提升低预算超参数优化中的样本效率？
• RQ2 将知识从RBF代理模型迁移至基于高斯过程（GP）的贝叶斯优化框架，对优化性能有何影响？
• RQ3 在计算成本高昂的黑箱优化中，将贝叶斯变异机制整合到差分进化中会产生何种影响？
• RQ4 在严格的时间和函数评估约束下，SteaDE与独立的BO、DE和RBF方法在收敛性和泛化能力方面有何比较？
• RQ5 从代理模型驱动搜索动态过渡到进化搜索，是否能提升在昂贵、非凸和多峰超参数优化问题上的性能？

主要发现

• 在NeurIPS 2020黑箱优化挑战赛中，SteaDE获得了98.6963的排行榜得分，显著优于BO（96.8487）、DE（97.1833）和RBF（98.0024）。
• 在归一化平均可见度（normalized mean visible_to_opt）方面，SteaDE达到0.15463，低于BO（0.37376）、DE（0.33408）和RBF（0.23693），表明其优化性能更优。
• 图1的收敛性曲线显示，由于代理模型提供的有信息量搜索，SteaDE在早期迭代中优于DE，而DE的随机变异导致初始效率较低。
• SteaDE的中位数泛化得分达到2.51204，略优于BO（2.36782）和DE（2.5），表明其在未见数据上的鲁棒性更强。
• 消融研究证实，RBF、BO和DE组件的混合组合实现了最佳性能，各组件对整体成功均有独特贡献。
• 所提出的贝叶斯变异机制有效平衡了探索与开发，其中$1/G$项实现了随代数增加从全局搜索向局部搜索的过渡。