[論文レビュー] A General Framework for Multi-fidelity Bayesian Optimization with Gaussian Processes

Jialin Song, Yuxin Chen+1 more|arXiv (Cornell University)|Nov 2, 2018

Gaussian Processes and Bayesian Inference被引用数 27

ひとこと要約

本稿では、複数の忠実度レベルにわたる共通の潜在構造を持つガウス過程を用いた、多忠実度ベイズ最適化の一般化フレームワークであるMF-MI-Greedyを提案する。コストに応じた相互情報量の増加を最大化することで、合成的および実世界のタスクにおいて低レグレットを達成し、さまざまなコスト定義下でもベースラインを上回る頑健な性能を示す。

ABSTRACT

How can we efficiently gather information to optimize an unknown function, when presented with multiple, mutually dependent information sources with different costs? For example, when optimizing a robotic system, intelligently trading off computer simulations and real robot testings can lead to significant savings. Existing methods, such as multi-fidelity GP-UCB or Entropy Search-based approaches, either make simplistic assumptions on the interaction among different fidelities or use simple heuristics that lack theoretical guarantees. In this paper, we study multi-fidelity Bayesian optimization with complex structural dependencies among multiple outputs, and propose MF-MI-Greedy, a principled algorithmic framework for addressing this problem. In particular, we model different fidelities using additive Gaussian processes based on shared latent structures with the target function. Then we use cost-sensitive mutual information gain for efficient Bayesian global optimization. We propose a simple notion of regret which incorporates the cost of different fidelities, and prove that MF-MI-Greedy achieves low regret. We demonstrate the strong empirical performance of our algorithm on both synthetic and real-world datasets.

研究の動機と目的

• 複数の安価な低忠実度近似が利用可能な状況下で、評価が高価な関数を最適化する課題に対処すること。
• 複数の忠実度レベル間の複雑な構造的依存関係を理論的保証とともにモデル化する一般化フレームワークを開発すること。
• コストに応じたレグレット定式化を介して、忠実度固有のコストを最適化プロセスに組み込むこと。
• 単純な仮定や理論的裏付けが乏しいヒューリスティックなクエリ選択に依存する既存手法の改善を図ること。
• さまざまな実世界および合成データセットにおいて、異なるコスト構造下でも頑健な実験的性能を示すこと。

提案手法

• 低忠実度と高忠実度関数間の依存関係を捉えるために、共通の潜在構造を持つ加法的ガウス過程を用いて複数の忠実度をモデル化する。
• コストに応じた相互情報量の増加を獲得関数として用い、単位コストあたりの情報量増加を最大化するクエリを優先する。
• 各忠実度レベルの評価コストを組み込んだ新しいレグレット定式化を提案し、理論的レグレットバウンドを可能にする。
• 共有されたGP事前分布を用いて、全忠実度レベルにわたる同時事後分布更新とハイパーパramータ最適化を実施する。
• 加法的GP構造を活用し、低忠実度からターゲット忠実度への不確実性と情報の伝播を実現する。
• 既存の単一忠実度GP最適化アルゴリズム（例：GP-UCB）を多忠実度設定に適応させつつ、元のレグレット保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 複雑な構造的依存関係を複数の忠実度レベルにわたって捉えることができる、多忠実度ベイズ最適化の一般化フレームワークを開発できるか？
• RQ2 相互情報量の増加をどのようにコストに応じて感度化すれば、情報量の増加と評価コストのトレードオフを反映できるか？
• RQ3 単一忠実度GPアルゴリズムを多忠実度設定に拡張した場合、理論的レグレット保証が維持されるか？
• RQ4 忠実度間のコスト構造の不正確さや変化に対して、この手法はどの程度頑健か？
• RQ5 異なる忠実度コストを持つ実世界の応用において、このフレームワークは既存のベースラインを上回るか？

主な発見

• MF-MI-Greedyは、尤度推定タスクにおいてMF-GP-UCBおよびGP-UCBを上回り、累積コストが低い状況でより高い目的関数値を達成した。
• 元のコスト定義（N×Gに基づく）下では、MF-MI-Greedyがベースラインを上回る性能を示した一方、MF-GP-UCBは著しく劣化した。
• データポイント数（N）に基づく再定義されたコスト定義下でも、MF-MI-Greedyは強固な性能を維持し、コスト構造の変化に対して頑健であることを示した。
• ナノフォトニクス構造設計タスクでは、初期の探索段階を経て、MF-MI-Greedyがベースラインよりも低い図面指標（優れた設計品質）を達成した。
• 提案されたコストに応じたレグレット定式化下でも、低レグレットを維持しており、単一忠実度アルゴリズムの多忠実度への拡張時にも理論的保証が保たれている。
• 実験結果から、MF-MI-Greディはコスト推定の不正確さに対しても頑健であることが示され、実世界応用における重要な実用的利点を有する。