[论文解读] Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors

Sébastien Marmin, Clément Chevalier+1 more|arXiv (Cornell University)|Sep 9, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 32被引用 6

一句话总结

本文提出了一种用于批量顺序贝叶斯优化中多点期望改进（q-EI）准则的闭式解析解，利用右删失正态向量的矩。通过推导q-EI的闭式梯度并实现高效的数值近似，该方法实现了基于梯度的批量采集函数优化，与蒙特卡洛方法相比计算量减少了1至2个数量级。

ABSTRACT

We deal with the efficient parallelization of Bayesian global optimization algorithms, and more specifically of those based on the expected improvement criterion and its variants. A closed form formula relying on multivariate Gaussian cumulative distribution functions is established for a generalized version of the multipoint expected improvement criterion. In turn, the latter relies on intermediate results that could be of independent interest concerning moments of truncated Gaussian vectors. The obtained expansion of the criterion enables studying its differentiability with respect to point batches and calculating the corresponding gradient in closed form. Furthermore , we derive fast numerical approximations of this gradient and propose efficient batch optimization strategies. Numerical experiments illustrate that the proposed approaches enable computational savings of between one and two order of magnitudes, hence enabling derivative-based batch-sequential acquisition function maximization to become a practically implementable and efficient standard.

研究动机与目标

• 通过推导多点期望改进（q-EI）准则的闭式表达式，实现高效的并行贝叶斯优化。
• 建立q-EI关于批量候选点的可微性的理论基础。
• 开发q-EI梯度的快速、精确的数值近似方法，以支持实际优化。
• 克服由于q-EI的蒙特卡洛采样导致的批量顺序贝叶斯优化中的计算瓶颈。

提出的方法

• 利用多元正态分布累积分布函数和右删失正态向量的矩，推导出q-EI的闭式表达式。
• 提出一种关于候选点批量的q-EI新颖解析梯度，支持基于梯度的优化。
• 应用Plackett的微分方程，计算在截断条件下多元正态分布CDF的导数。
• 提出利用高效计算右删失正态矩的方法，实现梯度的快速数值近似。
• 通过对称性和结构分解，降低梯度计算中的计算复杂度。
• 采用条件高斯过程和线性变换，对候选点与观测点的联合分布进行建模。

实验结果

研究问题

• RQ1 多点期望改进准则是否可以不依赖蒙特卡洛采样而以闭式表达？
• RQ2 q-EI准则是否关于候选点批量可微，其梯度能否实现解析计算？
• RQ3 能否推导出既准确又计算可扩展的q-EI梯度的高效数值近似？
• RQ4 基于梯度的q-EI优化在计算效率方面相较于蒙特卡洛方法能提升多少？
• RQ5 所推导的解析表达式和近似方法在多大程度上提升了批量顺序贝叶斯优化的可扩展性？

主要发现

• 本文利用多元正态分布CDF和右删失正态向量的矩，推导出q-EI准则的闭式表达式。
• 证明了q-EI准则关于批量输入点是可微的，且其梯度以闭式形式计算得出。
• 开发了既准确又显著快于蒙特卡洛方法的梯度数值近似方法。
• 在数值实验中实现了1至2个数量级的计算节省，使基于梯度的批量优化成为实际可行的方法。
• 所提出的方法实现了采集函数在批量顺序贝叶斯优化中高效、可扩展且确定性的优化。