[论文解读] Scalable Combinatorial Bayesian Optimization with Tractable Statistical models

Aryan Deshwal, Syrine Belakaria+1 more|arXiv (Cornell University)|Aug 18, 2020

Machine Learning and Data Classification参考文献 31被引用 8

一句话总结

本文提出参数化子模松弛（PSR），一种在组合贝叶斯优化中用于获取函数优化（AFO）的可扩展且精确的方法。通过将AFO重新表述为带有可学习参数的子模松弛，并利用高效的最小割图算法求解，PSR在高维组合空间中相比BOCS中的先前SDP方法，实现了显著更快的计算速度和更高的优化精度。

ABSTRACT

We study the problem of optimizing expensive blackbox functions over combinatorial spaces (e.g., sets, sequences, trees, and graphs). BOCS (Baptista and Poloczek, 2018) is a state-of-the-art Bayesian optimization method for tractable statistical models, which performs semi-definite programming based acquisition function optimization (AFO) to select the next structure for evaluation. Unfortunately, BOCS scales poorly for large number of binary and/or categorical variables. Based on recent advances in submodular relaxation (Ito and Fujimaki, 2016) for solving Binary Quadratic Programs, we study an approach referred as Parametrized Submodular Relaxation (PSR) towards the goal of improving the scalability and accuracy of solving AFO problems for BOCS model. PSR approach relies on two key ideas. First, reformulation of AFO problem as submodular relaxation with some unknown parameters, which can be solved efficiently using minimum graph cut algorithms. Second, construction of an optimization problem to estimate the unknown parameters with close approximation to the true objective. Experiments on diverse benchmark problems show significant improvements with PSR for BOCS model. The source code is available at https://github.com/aryandeshwal/Submodular_Relaxation_BOCS .

研究动机与目标

• 解决BOCS中基于SDP的获取函数优化（AFO）在具有大量二值或分类变量的高维组合空间中可扩展性差的问题。
• 通过减少基于松弛的优化中的近似误差，提升BOCS中AFO的精度。
• 通过使用可处理的统计模型，实现在集合、序列、树和图等组合结构上的高效且可扩展的贝叶斯优化。
• 开发一种参数化子模松弛框架，在AFO中实现计算效率与解质量之间的平衡。
• 通过实证验证，PSR相较于最先进的BOCS（基于SDP）在计算效率和整体贝叶斯优化精度方面均有提升。

提出的方法

• 将BOCS中的获取函数优化（AFO）问题重新表述为带有未知参数的子模松弛，以通过最小割图算法实现高效求解。
• 采用两阶段优化：首先使用图割算法求解松弛后的AFO问题，然后优化未知参数以最小化松弛目标与真实目标之间的差距。
• 构建一个外部优化问题，利用近似真实获取函数的代理目标来估计子模松弛的参数。
• 利用子模松弛在二值二次规划（Ito & Fujimaki, 2016）中的最新进展，提升组合贝叶斯优化中的可扩展性与精度。
• 将PSR框架集成到BOCS框架中，用更快、更精确的子模松弛方法替代其原有的基于SDP的AFO。
• 在BOCS中使用Thompson采样作为获取函数，同时保持对二值变量的可处理统计模型。

实验结果

研究问题

• RQ1 带有可学习参数的子模松弛是否能提升组合贝叶斯优化中获取函数优化的可扩展性？
• RQ2 所提出的PSR方法在AFO解的质量上是否优于BOCS中的基于SDP的方法？
• RQ3 在收敛速度和最终目标值方面，PSR在整体贝叶斯优化性能上有多大的提升？
• RQ4 PSR在组合空间维度增加时的可扩展性如何，特别是在高维二值和分类变量场景下？
• RQ5 与SDP相比，PSR是否能在显著降低AFO计算时间的同时保持或提升精度？

主要发现

• 与基于SDP的方法相比，PSR在平均AFO时间上实现了显著降低，且随着输入维度的增加，性能差距进一步扩大。
• PSR在获取函数目标上的平均提升百分比更高，且在所有基准领域中均一致优于SDP。
• 在高维问题中，PSR与SDP在AFO解上的精度差距随维度增加而扩大，表明PSR具有更强的可扩展性。
• 采用PSR的BOCS在整体优化精度上表现更优，收敛曲线显示其能更快达到更低的最优函数值，优于使用SDP的BOCS。
• 平均而言，PSR相对于基线情况（最小维度）的AFO时间减少倍数随维度增加而增长，表明在250次BO迭代中实现了显著的复合效率提升。
• 该方法在多种真实世界基准测试中表现有效，包括BQP、Ising、Contamination等，且在速度与解质量方面均保持一致的改进。