[论文解读] Budgeted Batch Bayesian Optimization With Unknown Batch Sizes

Vu Nguyen, Santu Rana+3 more|arXiv (Cornell University)|Mar 15, 2017

Machine Learning and Algorithms参考文献 43被引用 6

一句话总结

该论文提出了一种名为预算批处理贝叶斯优化（B3O）的灵活批处理贝叶斯优化方法，通过使用无限高斯混合模型（IGMM）估计采集函数中的峰值数量，动态确定每次迭代的最优批处理大小。通过采用批处理广义切片抽样方法，B3O能够高效地从采集函数中抽样，避免冗余评估，在更少的函数评估次数下实现超参数调优和实验设计的更优收敛性能。

ABSTRACT

Parameter settings profoundly impact the performance of machine learning algorithms and laboratory experiments. The classical grid search or trial-error methods are exponentially expensive in large parameter spaces, and Bayesian optimization (BO) offers an elegant alternative for global optimization of black box functions. In situations where the black box function can be evaluated at multiple points simultaneously, batch Bayesian optimization is used. Current batch BO approaches are restrictive in that they fix the number of evaluations per batch, and this can be wasteful when the number of specified evaluations is larger than the number of real maxima in the underlying acquisition function. We present the Budgeted Batch Bayesian Optimization (B3O) for hyper-parameter tuning and experimental design - we identify the appropriate batch size for each iteration in an elegant way. To set the batch size flexible, we use the infinite Gaussian mixture model (IGMM) for automatically identifying the number of peaks in the underlying acquisition functions. We solve the intractability of estimating the IGMM directly from the acquisition function by formulating the batch generalized slice sampling to efficiently draw samples from the acquisition function. We perform extensive experiments for both synthetic functions and two real world applications - machine learning hyper-parameter tuning and experimental design for alloy hardening. We show empirically that the proposed B3O outperforms the existing fixed batch BO approaches in finding the optimum whilst requiring a fewer number of evaluations, thus saving cost and time.

研究动机与目标

• 解决固定批处理贝叶斯优化的低效问题，即预设的批处理大小会导致冗余或遗漏评估。
• 通过在每次迭代中估计采集函数中实际存在的有意义峰值数量，实现灵活的批处理大小选择。
• 减少在昂贵黑箱优化问题中找到全局最优解所需的函数评估次数。
• 在机器学习超参数调优和材料科学实验设计等实际应用中，提升效率和成本效益。
• 开发一种非贪婪的自适应方法，避免对噪声大或次优的点进行浪费性评估。

提出的方法

• 使用无限高斯混合模型（IGMM）对采集函数中潜在峰值数量进行非参数估计，实现批处理大小的自动确定。
• 提出一种批处理广义切片抽样方法，以高效地从采集函数中抽样，克服直接拟合IGMM的不可行性。
• 利用高斯过程后验均值和方差引导采集函数抽样，确保探索高不确定性与高潜力区域。
• 基于估计的峰值数量动态选择批处理点，避免贪婪地选择冗余或低价值的点。
• 将IGMM与切片抽样集成到贝叶斯优化循环中，每次自适应批处理评估后更新代理模型。
• 将该方法应用于合成问题和真实世界问题，包括SVR、BNMC、MLP以及铝-钪合金强化实验。

实验结果

研究问题

• RQ1 是否存在一种贝叶斯优化方法，能够在不依赖固定预设批处理大小的前提下，动态确定每次迭代的最优批处理大小？
• RQ2 在优化过程中，无限高斯混合模型（IGMM）对采集函数中实际有意义峰值数量的估计精度如何？
• RQ3 使用IGMM与切片抽样进行自适应批处理大小选择，是否能相比固定批处理方法实现更快的收敛速度和更少的函数评估次数？
• RQ4 在超参数调优和材料设计等实际应用中，所提出的方法是否能超越现有批处理贝叶斯优化技术？
• RQ5 批处理广义切片抽样方法在多峰复杂采集函数中，能在多大程度上实现高效且准确的抽样？

主要发现

• 在MNIST数据集上，B3O使用MLP模型实现了98.47%的最高准确率，优于所有固定批处理基线方法的模型性能。
• 在SVR超参数调优中，B3O在所有对比方法中实现了最低的RMSE，表现出更优的优化效率。
• 在BNMC多标签分类任务中，B3O实现了最高的F1分数，表明其具备更好的泛化能力和优化性能。
• 在铝-钪合金强化实验中，B3O以最少的物理实验次数实现了88.3的最大硬度，优于基线方法。
• 在所有基准任务中，B3O所需的总函数评估次数均少于固定批处理方法，证实了其在成本和时间上的高效性。
• 该方法成功识别出采集函数中的真实峰值数量，实现了无需过度或不足评估的智能批处理大小选择。