[論文レビュー] Multi-fidelity Bayesian Optimization with Max-value Entropy Search and its parallelization

Shion Takeno, Hitoshi Fukuoka+5 more|arXiv (Cornell University)|Jan 24, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 37被引用数 23

ひとこと要約

本稿では、入力 $\bm{x}_*$ の代わりに最適関数値 $f_*$ に注目することで、複雑な重積分を1次元数値積分に簡略化し、情報利得を効率的に計算する情報理論的ベイズ最適化手法である、マルチフィデリティ最大値エントロピー探索（MF-MES）を提案する。この手法により、最小限の計算オーバーヘッドで正確でスケーラブルかつ並列化可能なマルチフィデリティ最適化が可能となり、ベンチマーク関数および物質科学分野のデータで検証された。

ABSTRACT

In a standard setting of Bayesian optimization (BO), the objective function evaluation is assumed to be highly expensive. Multi-fidelity Bayesian optimization (MFBO) accelerates BO by incorporating lower fidelity observations available with a lower sampling cost. In this paper, we focus on the information-based approach, which is a popular and empirically successful approach in BO. For MFBO, however, existing information-based methods are plagued by difficulty in estimating the information gain. We propose an approach based on max-value entropy search (MES), which greatly facilitates computations by considering the entropy of the optimal function value instead of the optimal input point. We show that, in our multi-fidelity MES (MF-MES), most of additional computations, compared with usual MES, is reduced to analytical computations. Although an additional numerical integration is necessary for the information across different fidelities, this is only in one dimensional space, which can be performed efficiently and accurately. Further, we also propose parallelization of MF-MES. Since there exist a variety of different sampling costs, queries typically occur asynchronously in MFBO. We show that similar simple computations can be derived for asynchronous parallel MFBO. We demonstrate effectiveness of our approach by using benchmark datasets and a real-world application to materials science data.

研究の動機と目的

• マルチフィデリティベイズ最適化（MFBO）における情報利得推定の計算課題に対処する。既存の情報ベースの手法は、複雑で近似に依存する計算を伴う。
• 複数のフィデリティにわたる情報利得推定の難しさを、最適入力 $\bm{x}_*$ ではなく、1次元的で取り扱いやすい最適関数値 $f_*$ に焦点を移すことで克服する。
• ヒューリスティックな近似に依存せず、信頼性があり、効率的かつ解析的に取り扱える情報利得計算を実現する手法の開発。
• クエリのサンプリングコストが異なる現実世界のMFBOで一般的に見られる非同期並列評価に対応できるように、提案手法を拡張する。
• 合成ベンチマークおよび物質科学分野の実応用（析出形状予測モデルのパrameter最適化）において、MF-MESの有効性を示す。

提案手法

• 最適関数値 $f_* = \max_{\bm{x}} f(\bm{x})$ のエントロピーを獲得基準として用いるマルチフィデリティ最大値エントロピー探索（MF-MES）を提案。$\bm{x}_*$ に注目する従来手法と比較して、情報利得計算が簡略化される。
• $f_*$ が1次元的であることに着目し、MF-MESの追加計算の大部分を解析的表現に還元。交差フィデリティ情報利得の計算には、1つの1次元数値積分のみが必要となる。
• 置換積分を適用して、MF-MESを非同期並列設定に拡張。クエリが同期されていなくても、信頼性のある情報利得推定が可能となる。
• ガウス過程回帰（GPR）を用い、マルチフィデリティカーネル構造（例：コアジオナル化線形モデルやランダム特徴マッピング）を用いて、複数のフィデリティにおける目的関数をモデル化。
• 標準的な最適化手法を用いて獲得関数の最大化を実装。解析的導出と低次元数値積分により、計算効率が向上する。
• 逐次的および並列的最適化ループにこの手法を統合。各新しいクエリは、$f_*$ に関する期待情報利得に基づいて選択され、探索と活用のトレードオフパrameterを必要とせず、グローバルな効用を確保する。

実験結果

リサーチクエスチョン

• RQ1 最適入力 $\bm{x}_*$ の代わりに最適関数値 $f_*$ に注目することで、マルチフィデリティベイズ最適化における情報利得の計算をより効率的かつ正確に行えるか？
• RQ2 解析的表現は、EPベースのPESのような既存の近似手法と比較して、MFBOにおける情報利得推定の計算負荷をどの程度軽減できるか？
• RQ3 提案されたMF-MESフレームワークは、異なるフィデリティでのクエリが異なるタイミングで処理される非同期並列評価に対応できるか？
• RQ4 ベンチマークおよび実世界のデータセットにおいて、MF-MESはMF-PES、BOCA、MFSKO、AsyTSといった既存のMFBO手法と比較して、最適化性能および計算効率で優れているか？
• RQ5 複数のフィデリティレベルを有する高コストなシミュレーションを伴う物質科学の応用において、MF-MESはより高い最適化精度とサンプル効率を達成できるか？

主な発見

• MF-PESは高速化を意図して設計されているが、計算コストの高い期待伝播（EP）近似に依存しているため、MF-MESに比べて獲得関数の最大化が著しく遅い。
• MF-MESの計算コストは、標準的なガウス求積法を用いて効率的かつ正確に計算可能な1次元数値積分に支配されている。
• ベンチマーク関数（例：Styblinski-Tang、HartMann6）および実世界の物質科学データにおいて、MF-MESは少ない評価回数でより低い目的関数値を達成し、優れた最適化性能を示した。
• 非同期並列拡張により、現在クエリ中の点を獲得関数に組み込むことで、異種コンピューティングリソースを効率的に活用できる信頼性のある情報利得推定が維持された。
• 物質科学の応用では、MF-MESが、シミュレートされた析出形状と実験的に観測された形状との乖離を最小化するように、2つの材料パrameter（格子不整合と界面エネルギー）を効果的に最適化した。
• 収束速度および最終的な解の品質の両面で、BOCA、MFSKO、AsyTSといったベースライン手法を上回った。特に、サンプリング予算が限られた高フィデリティ領域において顕著な優位性を示した。