[論文レビュー] Convergence properties of the expected improvement algorithm

Emmanuel Vázquez, Julien Bect|arXiv (Cornell University)|Dec 21, 2007

Machine Learning and Data Classification被引用数 11

ひとこと要約

本稿は、ガウス過程モデルを用いたベイズ最適化における期待改善アルゴリズムの収束特性を確立する。共変動関数にややきつい条件を課した場合、このアルゴリズムは、カーネルによって誘導される再生核ヒルベルト空間（RKHS）に属する関数に対して、探索領域内で稠密な評価点の列を生成することを証明している。また、事前分布のもとで、すべての連続関数に対してほとんど確実に収束することも示している。

ABSTRACT

This paper has been withdrawn from the arXiv. It is now published by Elsevier in the Journal of Statistical Planning and Inference, under the modified title "Convergence properties of the expected improvement algorithm with fixed mean and covariance functions". See http://dx.doi.org/10.1016/j.jspi.2010.04.018 An author-generated post-print version is available from the HAL repository of SUPELEC at http://hal-supelec.archives-ouvertes.fr/hal-00217562 Abstract : "This paper deals with the convergence of the expected improvement algorithm, a popular global optimization algorithm based on a Gaussian process model of the function to be optimized. The first result is that under some mild hypotheses on the covariance function k of the Gaussian process, the expected improvement algorithm produces a dense sequence of evaluation points in the search domain, when the function to be optimized is in the reproducing kernel Hilbert space generated by k. The second result states that the density property also holds for P-almost all continuous functions, where P is the (prior) probability distribution induced by the Gaussian process."

研究の動機と目的

• グローバル最適化における期待改善アルゴリズムの理論的収束保証を確立すること。
• アルゴリズムが探索領域内で稠密な評価点の列を生成するかどうかを調査すること。
• カーネルに関連する再生核ヒルベルト空間（RKHS）に属する関数に対する収束行動を特定すること。
• 収束結果を、ガウス過程事前測度のもとでほとんどすべての連続関数へと拡張すること。

提案手法

• 未知の目的関数をモデル化するために、固定された平均および共変動関数 k を持つガウス過程モデルを用いる。
• 逐次的に新しい評価点を選択するために、期待改善の獲得関数を適用する。
• 特に再生核ヒルベルト空間（RKHS）の理論を含む関数解析の道具を用いて収束を分析する。
• ガウス過程によって誘導される事前確率測度 P を用いて、連続関数上でのほとんど確実な収束を研究する。
• 位相的および測度論的議論を用いて、探索領域内でのサンプリング点の列の稠密性を分析する。
• 共変動関数 k に対してややきつい正則性条件（連続性および正定値性など）を課したもとで収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 期待改善アルゴリズムが、探索領域内で稠密な評価点の列を生成する条件は何か？
• RQ2 カーネル k によって生成される再生核ヒルベルト空間（RKHS）に属するすべての関数に対して、アルゴリズムは収束するか？
• RQ3 ガウス過程事前分布のもとで、評価点の稠密性はほとんどすべての連続関数に対して保持されるか？
• RQ4 共変動関数の性質が、アルゴリズムの収束行動にどのように影響するか？
• RQ5 収束結果を RKHS を超えて、より広い連続関数のクラスへと拡張できるか？

主な発見

• 共変動関数 k に対してややきつい仮定を課した場合、期待改善アルゴリズムは、カーネル k に関連する再生核ヒルベルト空間（RKHS）に属する目的関数に対して、探索領域内で稠密な評価点の列を生成する。
• 稠密性の性質は、ガウス過程によって誘導される事前確率測度 P に関して、ほとんどすべての連続関数に対して成り立つ。
• 平均関数の選択にかかわらず、収束結果は安定しており、共変動関数がややきつい正則性条件を満たしていればよい。
• 理論的基盤により、アルゴリズムが探索空間をきめ細かく探索することを保証し、グローバル最適化への応用を支援する。
• 期待改善の実験的成功に対する厳密な理論的裏付けを提供する。
• 局所的収束から超越し、グローバルな探索特性へと、逐次的ベイズ最適化の理論的理解を拡張する。