[论文解读] Efficient and Scalable Batch Bayesian Optimization Using K-Means

Matthew Groves, Edward O. Pyzer‐Knapp|arXiv (Cornell University)|Jun 4, 2018

Machine Learning and Algorithms参考文献 2被引用 16

一句话总结

本文提出K-Means批量贝叶斯优化（KMBBO），一种新颖的批量采样算法，通过K均值聚类高效识别贝叶斯优化中获取函数的峰值。通过聚类切片采样点并选择质心作为批量候选点，KMBBO在探索与利用之间实现了更优的平衡，在合成任务和真实世界任务（包括超参数调优和药物发现）中均优于最先进方法（如LP、Constant Liar、Thompson Sampling和B3O），且在100次运行中表现出更低的方差。

ABSTRACT

We present K-Means Batch Bayesian Optimization (KMBBO), a novel batch sampling algorithm for Bayesian Optimization (BO). KMBBO uses unsupervised learning to efficiently estimate peaks of the model acquisition function. We show in empirical experiments that our method outperforms the current state-of-the-art batch allocation algorithms on a variety of test problems including tuning of algorithm hyper-parameters and a challenging drug discovery problem. In order to accommodate the real-world problem of high dimensional data, we propose a modification to KMBBO by combining it with compressed sensing to project the optimization into a lower dimensional subspace. We demonstrate empirically that this 2-step method outperforms algorithms where no dimensionality reduction has taken place.

研究动机与目标

• 为解决在高资源、并行评估场景下顺序贝叶斯优化的局限性，此类场景需要批量采样。
• 开发一种可扩展且高效的批量采样方法，可靠识别获取函数中多个峰值处的信息丰富且分布均匀的点。
• 改善高维优化问题中的性能与鲁棒性，此类问题中标准批量贝叶斯优化方法常因计算开销过大或探索能力差而表现不佳。
• 在药物发现和材料科学等实际应用中实现有效批量优化，且批量大小固定。
• 提出一种维度压缩扩展方法CS-KMBBO，通过压缩感知在高维问题中保持性能。

提出的方法

• KMBBO使用广义切片采样从获取函数表面生成一组候选点。
• 对切片采样点应用K均值聚类，将其分组为围绕获取函数局部最大值的簇。
• 选择簇的质心作为最终的批量评估点，确保对多个峰值的多样性与覆盖性。
• 对簇内距离施加二次惩罚项，防止点在相同区域聚集，从而促进空间上的分散分布。
• 对于高维问题，CS-KMBBO结合TWiST技术，在应用KMBBO前将数据投影到低维子空间。
• 该方法通过依赖采样点的聚类而非直接优化获取函数，避免了昂贵的全局优化，从而降低计算成本。

实验结果

研究问题

• RQ1 K均值聚类是否能可靠识别批量贝叶斯优化中获取函数的多个信息丰富峰值？
• RQ2 在多样化的优化任务中，KMBBO相较于现有批量贝叶斯优化方法（如Constant Liar、LP、Thompson Sampling和B3O）在性能与鲁棒性方面表现如何？
• RQ3 将压缩感知与KMBBO结合（即CS-KMBBO）是否能在降低计算成本的同时，保持高维问题中的高性能？
• RQ4 与其它批量方法相比，KMBBO在探索与利用行为上存在何种差异，特别是在多峰获取函数景观中？
• RQ5 KMBBO的性能稳定性（以100次运行中标准差较低为衡量）在多大程度上使其成为昂贵真实世界优化任务的可靠选择？

主要发现

• KMBBO在一系列合成任务和真实世界任务（包括超参数调优和高维药物发现问题）中，优于最先进批量贝叶斯优化方法（如LP、Constant Liar、Thompson Sampling和B3O）。
• KMBBO在100次重复实验中表现出最一致的性能，标准差最小，表明其在昂贵优化场景中具有高度可靠性。
• 在一个1D示例问题中，KMBBO成功识别并从获取函数的全部三个主要峰值中采样，而其他方法未能探索次级峰值或过度探索低质量区域。
• CS-KMBBO变体通过压缩感知降低维度，尽管在低维子空间中运行，仍优于基线方法，证明其在高维问题中的有效性。
• 该方法依赖于对切片采样点的聚类而非直接优化获取函数，显著降低了计算成本，同时保持了高质量的批量选择。
• KMBBO对切片采样点数量的变化具有鲁棒性，而B3O由于基于IGMM的峰值检测方法，对这类变化表现出高度敏感性。