[论文解读] Convergence properties of the expected improvement algorithm

Emmanuel Vázquez, Julien Bect|arXiv (Cornell University)|Dec 21, 2007

Machine Learning and Data Classification被引用 11

一句话总结

本文研究了在使用高斯过程模型的贝叶斯优化中，期望改进算法的收敛性质。在协方差函数满足温和条件的前提下，证明了该算法对于由核函数诱导的再生核希尔伯特空间中的函数，会在搜索域中生成一个稠密的评估点序列，并且在先验分布下对所有连续函数以几乎必然的方式收敛。

ABSTRACT

This paper has been withdrawn from the arXiv. It is now published by Elsevier in the Journal of Statistical Planning and Inference, under the modified title "Convergence properties of the expected improvement algorithm with fixed mean and covariance functions". See http://dx.doi.org/10.1016/j.jspi.2010.04.018 An author-generated post-print version is available from the HAL repository of SUPELEC at http://hal-supelec.archives-ouvertes.fr/hal-00217562 Abstract : "This paper deals with the convergence of the expected improvement algorithm, a popular global optimization algorithm based on a Gaussian process model of the function to be optimized. The first result is that under some mild hypotheses on the covariance function k of the Gaussian process, the expected improvement algorithm produces a dense sequence of evaluation points in the search domain, when the function to be optimized is in the reproducing kernel Hilbert space generated by k. The second result states that the density property also holds for P-almost all continuous functions, where P is the (prior) probability distribution induced by the Gaussian process."

研究动机与目标

• 建立全局优化中期望改进算法的理论收敛保证。
• 研究该算法是否在搜索域中产生稠密的评估点序列。
• 确定与核函数相关的再生核希尔伯特空间中函数的收敛行为。
• 将收敛结果扩展到高斯过程先验测度下的几乎所有连续函数。

提出的方法

• 使用固定均值和协方差函数 k 的高斯过程模型来建模未知的目标函数。
• 应用期望改进获取函数，依次选择新的评估点。
• 利用泛函分析工具，特别是再生核希尔伯特空间（RKHS）理论，分析收敛性。
• 利用高斯过程诱导的先验概率测度 P，研究在连续函数上的几乎必然收敛性。
• 通过拓扑和测度论论证，分析搜索域中采样点序列的稠密性。
• 在协方差函数 k 满足温和正则性条件（如连续性和正定性）下建立收敛性。

实验结果

研究问题

• RQ1 在何种条件下，期望改进算法会在搜索域中生成稠密的评估点序列？
• RQ2 该算法是否对由核函数 k 生成的再生核希尔伯特空间中的所有函数都收敛？
• RQ3 在高斯过程先验下，评估点的稠密性是否对几乎所有连续函数都成立？
• RQ4 协方差函数的性质如何影响算法的收敛行为？
• RQ5 收敛结果能否超越 RKHS，扩展到更广泛的连续函数类？

主要发现

• 在协方差函数 k 的温和假设下，当目标函数属于与 k 相关的再生核希尔伯特空间时，期望改进算法会在搜索域中生成稠密的评估点序列。
• 该稠密性性质对先验测度 P 几乎所有的连续函数成立，其中 P 为高斯过程诱导的先验概率测度。
• 只要协方差函数满足温和正则性条件，收敛结果对均值函数的选择具有鲁棒性。
• 理论基础确保了算法对搜索空间的充分探索，支持其在全局优化中的应用。
• 结果为期望改进在贝叶斯优化中经验成功的合理性提供了严格的理论依据。
• 研究结果将顺序贝叶斯优化的理论理解从局部收敛扩展到了全局探索特性。