[論文レビュー] Bayesian Optimization for Dynamic Problems

Favour Nyikosa, Michael A. Osborne+1 more|arXiv (Cornell University)|Mar 9, 2018

Gaussian Processes and Bayesian Inference参考文献 25被引用数 11

ひとこと要約

本稿では、時間的に変化する目的関数を伴う動的問題に対して、時空間ガウス過程を用いて時間的・空間的変化をモデル化することで、動的最適化を効率的に行うための適応的ベイズ最適化（ABO）を提案する。時間的相関を活用することで、ABOは評価のスケジューリングを自律的に行い、サンプリング周波数を適応的に調整し、ベースライン手法よりも少ない関数評価回数で追跡効率を維持する。合成および実世界の動的最適化タスクにおいて、標準的なBOおよび非BOアプローチを凌駆する性能を示した。

ABSTRACT

We propose practical extensions to Bayesian optimization for solving dynamic problems. We model dynamic objective functions using spatiotemporal Gaussian process priors which capture all the instances of the functions over time. Our extensions to Bayesian optimization use the information learnt from this model to guide the tracking of a temporally evolving minimum. By exploiting temporal correlations, the proposed method also determines when to make evaluations, how fast to make those evaluations, and it induces an appropriate budget of steps based on the available information. Lastly, we evaluate our technique on synthetic and real-world problems.

研究の動機と目的

• 目的関数が時間とともに変化し、評価が高コストである動的最適化問題に対処すること。
• 再起動や変化パターンの事前知識を必要とせず、時間的ダイナミクスに適応するベイズ最適化フレームワークを構築すること。
• 時間的相関を学習し、それに応じてサンプリング周波数を調整することで、関数評価の自動スケジューリングを可能にすること。
• 時間に依存する代理モデルと獲得関数の設計を組み込むことで、移動する最適解の追跡におけるデータ効率を向上させること。
• センサーネットワーク最適化や時間変動するシステム設定など、実世界の動的問題に対して実用的でスケーラブルなソリューションを提供すること。

提案手法

• 空間的・時間的依存性を同時に捉えるため、時空間ガウス過程事前分布を用いて動的目的関数をモデル化する。
• 滑らかでない変化にも対応できるよう、平方指数関数とマトérn-1/2共分散関数を組み合わせた複合カーネル構造を空間的および時間的成分に適用する。
• 最小値の変化の持続性を制御するための時間的相関係数αを導入し、非定常ダイナミクスへの適応的追跡を可能にする。
• 時間的不確実性と時間経過による期待改善を考慮した獲得関数を設計し、探索と活用のバランスを保つ。
• ハイパーパramータ推論を用いて目的関数の変化時間スケールを推定し、評価タイミングと頻度を動的に決定する。
• 目的関数の変化率の推定値と利用可能な情報に基づき、予算を考慮した最適化を導入する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ最適化は、時間変動する目的関数における移動する最適解をどのように効率的に追跡できるか？
• RQ2 高コストな評価を伴う動的問題において、時間的ダイナミクスを効果的に学習するためのモデリングアプローチは何か？
• RQ3 時間的相関を活用することで、動的最小値の追跡に必要な関数評価回数を削減できるか？
• RQ4 本手法は、標準的なBOおよび非BOメタヒューリスティクスと比較して、データ効率性および収束速度の面でどのように差をつけるか？
• RQ5 時間的変化パターンの事前知識がなくても、評価のスケジューリングをどの程度自動的に行えるか？

主な発見

• ABOは、移動峰ベンチマークにおいて、標準的なベイズ最適化および非BOメタヒューリスティクスを凌駆し、顕著に少ない関数評価回数で優れた性能を達成した。
• 合成移動峰問題において、ABO-fはすべての手法の中で最高の平均性能を示し、目的関数の急激な変化に対しても頑健であることを確認した。
• ABO-tは、時間スケール長パラメータが短いため、固定間隔手法に比べて40％多いステップ数を要したが、これは急速なダイナミクスに応じた適応的評価戦略であることを裏付けた。
• 実世界の温度センサーデータセットにおいて、ABOはすべての手法、他のBOベースの手法を含めて、最も高い平均オフライン性能を達成した。
• 時空間GP事前分布の使用により、滑らかでない時間的ダイナミクスの両方を効果的にモデル化でき、優れた追跡精度とデータ効率を実現した。
• 時間的変化パターンを学習することで、不必要な評価を削減しながらも、グローバル最小値に近接して追跡を維持する適切な評価予算を自動的に誘導できた。