[论文解读] Bayesian Optimization of Combinatorial Structures

Ricardo Baptista, Matthias Poloczek|arXiv (Cornell University)|Jun 22, 2018

Machine Learning and Algorithms参考文献 40被引用 54

一句话总结

提出了 css，一种在组合域上针对昂贵黑箱函数的贝叶斯优化算法，使用带稀疏贝叶斯线性模型的凸放松获取通过 SDP 和随机化舍入来高效搜索大规模离散空间。

ABSTRACT

The optimization of expensive-to-evaluate black-box functions over combinatorial structures is an ubiquitous task in machine learning, engineering and the natural sciences. The combinatorial explosion of the search space and costly evaluations pose challenges for current techniques in discrete optimization and machine learning, and critically require new algorithmic ideas. This article proposes, to the best of our knowledge, the first algorithm to overcome these challenges, based on an adaptive, scalable model that identifies useful combinatorial structure even when data is scarce. Our acquisition function pioneers the use of semidefinite programming to achieve efficiency and scalability. Experimental evaluations demonstrate that this algorithm consistently outperforms other methods from combinatorial and Bayesian optimization.

研究动机与目标

• 解决在组合结构上对昂贵黑箱函数的优化问题，其中搜索空间庞大且评估代价高。
• 开发一个可扩展且样本高效的模型，能够捕捉结构要素之间的相互作用。
• 提供一种利用凸优化来实现对组合域可处理优化的获取策略。
• 在多种基准测试上展示优于最先进方法的性能。

提出的方法

• 将目标建模为二进制变量的二阶（平方）函数，并对相互作用系数施加稀疏性诱导先验（horseshoe）。
• 使用 Bhattacharya 等人（2016）的精确采样器，通过 Gibbs 采样对系数进行贝叶斯推断，以提高效率。
• 使用类似 Thompson 的获取策略，从后验中抽样 alpha，并求解二进制二次规划 max f_alpha(x) - lambda P(x)。
• 将二进制二次规划放松为单位球面上的向量规划，然后转为半正定规划（SDP）；通过随机舍入（Charikar & Wirth, 2004）恢复离散解。
• 提供一个低复杂度的变体（BOCS-SA），用模拟退火替代 SDP，以在更高维度下实现可扩展性。

实验结果

研究问题

• RQ1 如何在数据有限的情况下高效地优化对组合结构上的昂贵黑箱函数？
• RQ2 一个具备交互感知的稀疏贝叶斯模型能否在离散域中准确捕捉结构-函数关系？
• RQ3 基于半正定规划的获取在离散高维空间中是否优于传统的获取函数？

主要发现

• css 在二进制二次规划、Ising 稀疏化、污染控制和空气-结构问题上的表现持续优于对比方法（EI、SMAC、PS、SA、OLS、RS）。
• 基于 SDP 的 BOCS-SDP 在大多数基准测试中通常表现最好，BOCS-SA（基于 SA）在许多情境下也接近。
• 从回归系数的后验分布采样（而不是使用单一的最大似然估计）对于避免纯粹的开发利用行为并实现强性能至关重要。
• 在 Ising 稀疏化中，BOCS-SDP 在 10 个随机模型中的最佳值与最低变异性并列为最高。
• 在污染控制和航空-结构问题中，BOCS-SDP 经常提供最佳性能，而 SA 和 EI 在初期偶有良好表现，但并未始终超越 css。