[论文解读] Batched High-dimensional Bayesian Optimization via Structural Kernel Learning

Zi Wang, Chengtao Li+2 more|arXiv (Cornell University)|Mar 6, 2017

Machine Learning and Data Classification被引用 47

一句话总结

该论文提出了一种批处理、高维的贝叶斯优化方法，通过吉布斯采样联合学习输入空间中的潜在可加结构，并利用带结构化核学习的行列式点过程（DPP）选择多样化且高质量的批次。该方法在高维黑箱优化中显著优于最先进方法，尤其在维度增加时表现更优。

ABSTRACT

Optimization of high-dimensional black-box functions is an extremely challenging problem. While Bayesian optimization has emerged as a popular approach for optimizing black-box functions, its applicability has been limited to low-dimensional problems due to its computational and statistical challenges arising from high-dimensional settings. In this paper, we propose to tackle these challenges by (1) assuming a latent additive structure in the function and inferring it properly for more efficient and effective BO, and (2) performing multiple evaluations in parallel to reduce the number of iterations required by the method. Our novel approach learns the latent structure with Gibbs sampling and constructs batched queries using determinantal point processes. Experimental validations on both synthetic and real-world functions demonstrate that the proposed method outperforms the existing state-of-the-art approaches.

研究动机与目标

• 解决高维黑箱函数优化的挑战，该问题在标准贝叶斯优化中仍存在计算与统计上的困难。
• 通过支持批处理、并行函数评估，克服传统贝叶斯优化中顺序评估的局限性。
• 同时推断高维函数的潜在可加结构，以降低有效维度并提高样本效率。
• 开发一种可扩展且高效的批次选择策略，在高维设置中平衡探索（多样性）与开发（质量）。
• 提升贝叶斯优化在真实世界高维问题（如机器人控制与超参数调优）中的性能。

提出的方法

• 使用具有潜在子空间的可加高斯过程建模高维函数，其中每个分量作用于输入维度的不相交子集。
• 使用吉布斯采样联合推断输入维度的潜在分解与核超参数，实现在不假设子空间维度已知情况下的结构学习。
• 通过行列式点过程（DPP）构建批次查询，以在保持高期望改进的同时促进所选点的多样性。
• 将批处理采集函数（如基于UCB的）与结构化核结合，以同时引导多个点的选择。
• 通过混合目标将质量驱动的选择（通过UCB得分）与多样性促进（通过DPP）相结合，使用DPP优化的批次作为子模多样性代理。
• 限制分解中的最大组大小以提升可扩展性，并避免在高维设置下过拟合。

实验结果

研究问题

• RQ1 联合学习潜在可加结构与批处理采集是否能提升高维贝叶斯优化中的样本效率？
• RQ2 在高维设置下，使用行列式点过程进行批次选择与贪婪或随机选择相比表现如何？
• RQ3 在批次选择中结合质量（如UCB得分）与多样性（通过DPP）是否能带来优于仅侧重其一的方法的优化性能？
• RQ4 与现有最先进方法相比，所提方法在输入维度增加时的性能扩展性如何？
• RQ5 该方法能否有效优化真实世界中的高维问题，如具有复杂参数空间的机器人控制？

主要发现

• 所提方法Batch-UCB-DPP-Fnc在所有测试基准上表现最佳，显著优于随机采样及其他批次选择策略。
• 在20维与50维的合成函数上，Batch-UCB-DPP-Fnc与其他方法的性能差距更大，表明在高维下具有更优的探索-开发权衡。
• 在包含25个参数的真实世界Walker双足机器人任务中，所有多样化批次采样方法均大幅优于随机采样，而Batch-UCB-DPP-Fnc实现了最低的简单遗憾。
• 当批次大小增大时（B=10 vs. B=5），Batch-UCB-DPP-Fnc与其他方法的性能差距进一步扩大，表明其具有良好的可扩展性与鲁棒性。
• 该方法通过吉布斯采样有效学习了潜在可加结构，即使在真实分解未知的情况下也能实现高效优化。
• 结构化核学习与基于DPP的批次选择相结合，相比现有批处理贝叶斯优化方法，能实现更快收敛与更低累积遗憾。