[論文レビュー] Bayesian Optimization with Expensive Integrands

Saul Toscano-Palmerin, Peter I. Frazier|arXiv (Cornell University)|Mar 23, 2018

Advanced Multi-Objective Optimization Algorithms被引用数 8

ひとこと要約

本稿では、評価が高価な関数の積分または和として定義される目的関数を対象とするベイズ最適化手法を提案する。本手法は、1ステップ平均ケース最適性を達成するために、新規の情報価値計算を活用している。ノイズがかかるまたは滑らかな被積分関数の条件下でも、離散化を伴わない効率的な最適化が可能であり、理論的整合性と、最新の手法に比べて優れた実験的性能を示している。

ABSTRACT

We propose a Bayesian optimization algorithm for objective functions that are sums or integrals of expensive-to-evaluate functions, allowing noisy evaluations. These objective functions arise in multi-task Bayesian optimization for tuning machine learning hyperparameters, optimization via simulation, and sequential design of experiments with random environmental conditions. Our method is average-case optimal by construction when a single evaluation of the integrand remains within our evaluation budget. Achieving this one-step optimality requires solving a challenging value of information optimization problem, for which we provide a novel efficient discretization-free computational method. We also provide consistency proofs for our method in both continuum and discrete finite domains for objective functions that are sums. In numerical experiments comparing against previous state-of-the-art methods, including those that also leverage sum or integral structure, our method performs as well or better across a wide range of problems and offers significant improvements when evaluations are noisy or the integrand varies smoothly in the integrated variables.

研究の動機と目的

• 評価が高価な関数の積分または和として定義される目的関数の、導関数を必要としないグローバル最適化を扱う。
• 固定された評価予算下で、1ステップ平均ケース最適性を達成する手法を開発する。
• ノイズがかかる評価や被積分関数変数の滑らかな変化を、効率的に処理する。
• 目的関数が和である場合に、有限および連続領域の両方で理論的整合性を提供する。
• 積分構造を活用し、無駄な評価を最小限に抑えることで、既存手法を上回る性能を実現する。

提案手法

• 被積分関数 $ F(x,w) $ をガウス過程事前分布でモデル化し、目的関数 $ G(x) = \int F(x,w)p(w)dw $ に対する確率的推論を可能にする。
• 次の評価点 $ (x,w) $ を選択するための情報価値最適化問題を定式化し、$ G(x) $ の期待改善を最大化する。この際、$ w $-空間の離散化を回避する。
• $ w $-ドメインの離散化なしに、情報価値問題を効率的に解くための新規な計算手法を導入する。
• アルゴリズムは $ x $ と $ w $ の両方に評価を適応的に割り当て、連続的 $ (x,w) $-空間における探索と活用のバランスを取る。
• ノイズがかかる $ F(x,w) $ の観測値を用い、各評価後に $ G(x) $ に関する後方分布を更新する。
• 正則性条件を満たす $ F $ および $ p(w) $ の下で、離散的および連続的 $ w $-ドメインの両方で理論的整合性が確立される。

実験結果

リサーチクエスチョン

• RQ1 積分として定義される高価な関数の最適化を効率的に行うベイズ最適化フレームワークを設計できるか？
• RQ2 被積分関数の定義域を離散化せずに、情報価値計算を効率的に行う方法は何か？
• RQ3 固定された評価予算下で、提案手法は1ステップ平均ケース最適性を達成するか？
• RQ4 ノイズがかかる評価や滑らかな被積分関数の変化がある状況下で、既存手法と比較してどのように性能を発揮するか？
• RQ5 和に基づく目的関数において、有限および連続領域の両方で理論的整合性を有するか？

主な発見

• 評価予算に1回の被積分関数評価が含まれる場合、提案手法は構成上、1ステップ平均ケース最適性を達成する。
• 数値実験において、最新の手法を上回る性能を示し、特にノイズがかかる評価や滑らかな被積分関数の変化がある状況で顕著である。
• 被積分関数が $ w $-変数で滑らかに変化する場合、収束速度と最終的な解の品質に顕著な向上が見られる。
• 標準的な正則性仮定の下で、有限および連続領域の両方で理論的整合性が証明されている。
• 情報価値計算は新規な離散化フリー手法により効率的に解かれており、連続的 $ w $-空間におけるスケーラブルな最適化を可能にする。
• 実験結果は、多タスクベイズ最適化やシミュレーションベース設計を含む多様な問題クラスにおいて、強固な性能を示している。