[论文解读] Batch Bayesian Optimization on Permutations using the Acquisition Weighted Kernel

Changyong Oh, Roberto Bondesan+2 more|arXiv (Cornell University)|Feb 26, 2021

Advanced Bandit Algorithms Research被引用 10

一句话总结

本文提出LAW2ORDER，一种用于具有昂贵目标函数的排列组合问题的批量贝叶斯优化框架。它引入LAW（通过DPPs实现的获取加权核），在批量获取过程中平衡多样性与信息性，实现了次线性批量累积遗憾，并在二次分配、流水车间调度、旅行商和结构学习任务上优于最先进方法。

ABSTRACT

In this work we propose a batch Bayesian optimization method for combinatorial problems on permutations, which is well suited for expensive-to-evaluate objectives. We first introduce LAW, an efficient batch acquisition method based on determinantal point processes using the acquisition weighted kernel. Relying on multiple parallel evaluations, LAW enables accelerated search on combinatorial spaces. We then apply the framework to permutation problems, which have so far received little attention in the Bayesian Optimization literature, despite their practical importance. We call this method LAW2ORDER. On the theoretical front, we prove that LAW2ORDER has vanishing simple regret by showing that the batch cumulative regret is sublinear. Empirically, we assess the method on several standard combinatorial problems involving permutations such as quadratic assignment, flowshop scheduling and the traveling salesman, as well as on a structure learning task.

研究动机与目标

• 为解决在芯片设计和3D打印等实际应用中常见的排列组合问题中缺乏高效的贝叶斯优化方法的问题。
• 通过批量获取实现多个排列的并行评估，加速优化过程。
• 通过结合DPPs实现的多样性与获取分数实现的信息性，改进批量获取，克服标准DPPs的局限性。
• 为所提方法在排列空间上的简单遗憾趋于消失建立理论保证。
• 在基准问题上实证验证该方法，并展示其在性能上优于遗传算法和现有批量贝叶斯优化方法。

提出的方法

• 提出LAW（通过DPPs实现的获取加权核），一种结合行列式点过程（DPPs）与获取函数值的批量获取方法，以平衡多样性与信息性。
• 使用基于获取值加权的核来增强标准DPPs，后者仅依赖预测方差，缺乏信息性。
• 应用DPP-L-ensemble框架，采样多样且信息丰富的排列批次以供评估。
• 采用高斯过程代理模型预测目标值和不确定性，支持获取函数的计算。
• 将批量获取集成到贝叶斯优化循环中，通过新并行评估更新代理模型。
• 将完整框架命名为LAW2ORDER，专门针对排列空间的优化而设计。

实验结果

研究问题

• RQ1 能否有效将批量贝叶斯优化扩展到具有昂贵目标函数的排列组合空间？
• RQ2 结合多样性（通过DPPs）与信息性（通过获取分数）是否能带来优于现有批量获取方法的优化性能？
• RQ3 所提批量方法在排列空间上的理论收敛行为如何？
• RQ4 LAW2ORDER在收敛速度和最终解质量方面与遗传算法及其他批量贝叶斯优化方法相比表现如何？
• RQ5 该方法在大规模排列问题（如高维排列的结构学习）上是否保持优异性能？

主要发现

• LAW2ORDER实现了次线性批量累积遗憾，证明了简单遗憾趋于消失，建立了理论收敛保证。
• 在结构学习任务中，LAW2ORDER优于所有基线方法，且在更大排列空间上的性能差距显著扩大。
• LAW2ORDER仅用一半的评估次数即优于遗传算法，展现出更高的样本效率。
• 在旅行商问题中，LAW-EST与LAW-prior-EST以530次评估达到最低平均成本$3,367.40 ± 10.66$。
• 在流水车间调度问题中，LAW-prior-EST以530次评估实现最佳平均成本$7,751.94 ± 7.80$。
• 在二次分配问题中，LAW-prior-EST以830次评估实现平均成本$1,888.93 ± 1.91$，优于所有竞争方法。