[论文解读] Distributionally Ambiguous Optimization Techniques for Batch Bayesian Optimization

Nikitas Rontsis, Michael A. Osborne+1 more|arXiv (Cornell University)|Jul 13, 2017

Advanced Bandit Algorithms Research参考文献 8被引用 3

一句话总结

本文提出了一种新颖的、可计算的批量贝叶斯优化获取函数，利用分布鲁棒优化避免了昂贵的多变量积分。通过在具有相同矩的分布模糊集上对期望改进进行凸优化，计算其紧致下界，该方法即使在大批量情况下也能实现精确、高效的计算与导数评估，理论和实践表现均优于现有方法。

ABSTRACT

We propose a novel, theoretically-grounded, acquisition function for Batch Bayesian optimization informed by insights from distributionally ambiguous optimization. Our acquisition function is a lower bound on the well-known Expected Improvement function, which requires evaluation of a Gaussian Expectation over a multivariate piecewise affine function. Our bound is computed instead by evaluating the best-case expectation over all probability distributions consistent with the same mean and variance as the original Gaussian distribution. Unlike alternative approaches, including Expected Improvement, our proposed acquisition function avoids multi-dimensional integrations entirely, and can be computed exactly - even on large batch sizes - as the solution of a tractable convex optimization problem. Our suggested acquisition function can also be optimized efficiently, since first and second derivative information can be calculated inexpensively as by-products of the acquisition function calculation itself. We derive various novel theorems that ground our work theoretically and we demonstrate superior performance via simple motivating examples, benchmark functions and real-world problems.

研究动机与目标

• 为解决批量贝叶斯优化中多步前瞻的计算不可行性，提出一种可计算且具有理论基础的获取函数。
• 用基于分布模糊集的凸优化问题替代期望改进中的昂贵多变量高斯积分。
• 实现在贝叶斯优化中对大批次大小的获取函数进行精确、可微分且可扩展的计算。
• 提供一种理论上合理的替代方案，以取代标准期望改进，避免其不可微性与数值积分问题。

提出的方法

• 通过考虑与GP后验具有相同均值和协方差的所有分布中的最坏情况期望，将获取函数推导为期望改进的下界。
• 通过求解基于一阶与二阶矩约束定义的模糊集上的可计算凸优化问题，来计算该下界。
• 该方法利用分布鲁棒优化原理，确保鲁棒性与计算可处理性。
• 获取函数的一阶与二阶导数可作为优化过程的副产品高效计算，从而支持基于梯度的优化。
• 该方法使用vec算子与对称化向量化（vec_u）操作，将最优性条件重述为一个平方、非奇异的线性系统，以实现高效求解。
• 理论分析证明了获取函数在正定锥上的可微性，并确立了其唯一性与连续性。

实验结果

研究问题

• RQ1 能否在批量贝叶斯优化中构建一个分布鲁棒的期望改进下界，以避免高维积分？
• RQ2 是否能通过凸优化技术精确且高效地计算该下界？
• RQ3 能否高效计算所得获取函数的导数，以支持批量点的基于梯度的优化？
• RQ4 所提方法在提升可扩展性与性能的同时，是否仍保持理论保证？
• RQ5 标准期望改进的不可微性如何影响优化过程？能否通过分布鲁棒性克服该问题？

主要发现

• 所提获取函数是期望改进的紧致下界，可通过凸优化精确计算，避免了数值积分。
• 该方法可对任意大批次大小实现获取函数的精确计算，其解为一个可计算的凸问题。
• 获取函数的一阶与二阶导数可作为优化过程的副产品廉价计算，从而支持高效的基于梯度的优化。
• 获取函数在正定锥上被证明是可微的，解决了标准期望改进的不可微性问题。
• 理论分析通过最优性条件与矩阵重构，确立了解的唯一性、连续性与可微性。
• 实验结果在基准函数与真实世界问题上均表现出优越性能，验证了该方法的效率与鲁棒性。