[論文レビュー] On the convergence of the expected improvement algorithm

Emmanuel Vázquez, Julien Bect|arXiv (Cornell University)|Dec 21, 2007

Gaussian Processes and Bayesian Inference被引用数 14

ひとこと要約

この論文は、ガウス過程モデルを用いたグローバル最適化における期待改善（expected improvement）アルゴリズムの収束を確立している。共分散関数にやや弱い条件下でも、関数がカーネルによって誘導される再生核ヒルベルト空間（RKHS）に属する場合、探索領域内で評価点の稠密な列が生成され、また事前分布のもとでほとんど確実にすべての連続関数についても同様である。

ABSTRACT

paper has been withdrawn from the arXiv. It is now published by Elsevier in the Journal of Statistical Planning and Inference, under the modified title Convergence properties of the expected improvement algorithm with fixed mean and covariance functions. See this http URL An author-generated post-print version is available from the HAL repository of SUPELEC at this http URL Abstract : This paper deals with the convergence of the expected improvement algorithm, a popular global optimization algorithm based on a Gaussian process model of the function to be optimized. The first result is that under some mild hypotheses on the covariance function k of the Gaussian process, the expected improvement algorithm produces a dense sequence of evaluation points in the search domain, when the function to be optimized is in the reproducing kernel Hilbert space generated by k. The second result states that the density property also holds for P-almost all continuous functions, where P is the (prior) probability distribution induced by the Gaussian process.

研究の動機と目的

• ベイズ最適化における期待改善アルゴリズムの収束行動を分析すること。
• アルゴリズムが探索領域内で稠密な評価点の列を生成する条件を特定すること。
• 稠密性の性質が、カーネルによって誘導される再生核ヒルベルト空間（RKHS）に属する関数に限らず、ガウス過程事前分布のもとでほとんどすべての連続関数に対しても成り立つことを確立すること。
• 期待改善アルゴリズムの実験的成功に対する理論的裏付けを提供すること。

提案手法

• 共分散関数 k に関連する再生核ヒルベルト空間（RKHS）の理論に依拠する。
• 著者たちは、期待改善の獲得関数と、ガウス過程モデルにおける事後平均および分散への依存性を検討する。
• 測度論的議論を用いて、選択された点の列が連続関数について P-ほとんど確実に稠密であることを示す。
• 証明は、共分散関数の性質、特に滑らかさと正定値性に依存する。
• 任意の領域内の点における期待改善が、その点が稠密にサンプリングされていない限り、ゼロから常に離れていることにより収束を確立する。
• 分析では平均および共分散関数を固定したものとし、これらの制約のもとでのアルゴリズムのサンプリング行動に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 期待改善アルゴリズムが、探索領域内で稠密な評価点の列を生成する条件は何か？
• RQ2 カーネルによって誘導されるRKHSに属するすべての関数について、評価点の稠密性が成り立つか？
• RQ3 ガウス過程事前分布のもとで、P-ほとんどすべての連続関数についても稠密性の性質が保たれるか？
• RQ4 共分散関数の選択が、期待改善アルゴリズムの収束行動にどのように影響するか？
• RQ5 目的関数に強い仮定を課さずに、アルゴリズムの理論的収束を保証できるか？

主な発見

• 共分散関数 k に対してやや弱い正則性条件が満たされれば、期待改善アルゴリズムは、目的関数が k に関連するRKHSに属する場合、探索領域内で稠密な評価点の列を生成する。
• 稠密性の性質は、ガウス過程によって誘導される事前測度 P に対して、ほとんどすべての連続関数に対しても拡張可能である。
• 目的関数が連続で、ガウス過程事前分布のもとでサンプリングされる限り、特定の関数形に依存せず収束が保証される。
• 目的関数がRKHSに属さない場合でも、連続でかつ事前分布が適切に指定されていれば、理論的根拠は成立する。
• 理論的基盤は、実用的なベイズ最適化設定における期待改善アルゴリズムの実験的頑健性を支持する。
• 分析により、アルゴリズムは過剰な収束を避けており、やや弱い仮定のもとで、探索領域全体の探索を保証することが確認された。