[論文レビュー] Bayesian Multi-Scale Optimistic Optimization

Ziyu Wang, Babak Shakibi+2 more|arXiv (Cornell University)|Feb 27, 2014

Advanced Bandit Algorithms Research参考文献 33被引用数 53

ひとこと要約

本稿では、ガウス過程の信頼区間と木構造的同時的楽観的最適化を組み合わせることで、補助の獲得関数最適化を不要にするグローバル最適化手法であるベイジアン・マルチスケール・楽観的最適化（BaMSOO）を提案する。SOOのマルチスケール探索にGPに基づく刈り込みを統合することで、ベンチマーク関数および現実の用語抽出タスクにおいて、より高速な収束と優れた性能を達成する。理論的な有限時間レグレットバウンドは、獲得関数の正確な最適化を必要としない。

ABSTRACT

Bayesian optimization is a powerful global optimization technique for expensive black-box functions. One of its shortcomings is that it requires auxiliary optimization of an acquisition function at each iteration. This auxiliary optimization can be costly and very hard to carry out in practice. Moreover, it creates serious theoretical concerns, as most of the convergence results assume that the exact optimum of the acquisition function can be found. In this paper, we introduce a new technique for efficient global optimization that combines Gaussian process confidence bounds and treed simultaneous optimistic optimization to eliminate the need for auxiliary optimization of acquisition functions. The experiments with global optimization benchmarks and a novel application to automatic information extraction demonstrate that the resulting technique is more efficient than the two approaches from which it draws inspiration. Unlike most theoretical analyses of Bayesian optimization with Gaussian processes, our finite-time convergence rate proofs do not require exact optimization of an acquisition function. That is, our approach eliminates the unsatisfactory assumption that a difficult, potentially NP-hard, problem has to be solved in order to obtain vanishing regret rates.

研究の動機と目的

• 標準のベイジアン最適化が補助の獲得関数最適化にかかるコストとしばしば不正確な点に起因する計算的ボトル neck と理論的制限を解消すること。
• 各イテレーションでNP困難な獲得関数最大化問題を解く必要がないグローバル最適化アルゴリズムを開発すること。
• ガウス過程の信頼区間と同時的楽観的最適化の長所を組み合わせ、効率性と収束性を向上させること。
• 獲得関数の正確な最適化を必要としない有限時間収束保証を提供すること。
• 合成ベンチマークおよび用語抽出などの現実の応用において、GP-UCBおよびSOOと比較して実用的に優れた性能を示すこと。

提案手法

• ガウス過程事後分布から導かれる上限信頼区間（UCB）獲得関数を、木構造的同時的楽観的最適化（SOO）フレームワークに統合する。
• 空間分割木を用いて複数スケールを同時に探索し、上限信頼区間が大きいリーフを拡張する。
• SOOが提案する低信頼度の点をGPに基づく排除処理でフィルタリングすることで、サンプル効率を向上させる。
• 各レベルに最大で1つのリーフを維持するマルチスケール探索戦略を採用し、探索空間の広範なカバーを確保する。
• 近接するサンプリングに伴いガウス過程事後標準偏差が線形に減少するという理論的バウンドを活用し、有限時間のレグレット解析を可能にする。
• 各イテレーションで獲得関数最適化を繰り返し行わず、1回のSOO実行で済ませることで、計算コストを顕著に削減する。

実験結果

リサーチクエスチョン

• RQ1 獲得関数の補助最適化を不要にしつつ、収束速度を維持または向上させることは可能か？
• RQ2 楽観的最適化のグローバル探索とガウス過程モデルの局所的精度をどのように統合できるか？
• RQ3 獲得関数の正確な最大化を必要としないベイジアン最適化アルゴリズムの有限時間収束特性はいかなるものか？
• RQ4 GPに基づく刈り込み機構は、高次元または高コスト関数の設定における楽観的最適化の効率を向上させられるか？
• RQ5 実際の合成ベンチマークおよび現実の最適化タスクにおいて、提案手法は標準のGP-UCBおよびSOOと比べてどのように性能を発揮するか？

主な発見

• BaMSOOは、標準的なグローバル最適化ベンチマークにおいてGP-UCBを上回り、著しく低い計算コストでより良い最終的評価値を達成した。
• テストされたベンチマーク関数において、BaMSOOはGP-UCBに比べ10–40倍速く、繰り返しの獲得関数最適化を排除したためである。
• GENIAコーパスを用いた用語抽出応用において、BaMSOOはGP-UCBおよびSOOを上回るFスコアを達成し、現実のNLPタスクにおける優れた性能を示した。
• アルゴリズムは多項式のレグレットレートを達成し、獲得関数の正確な最適化を必要としない理論的保証を有する。
• α=2の場合、SOOに比べ収束速度が劣るものの、効果的なGPベースの刈り込みとマルチスケール探索のおかげで、強力な実験的性能を維持した。
• 理論的収束速度に影響を与える要因として、GP標準偏差が近接サンプリングに伴い線形に減少するが、二次的減少ではないという点が、性能の制限要因となっている。