[論文レビュー] Investigating Bayesian optimization for expensive-to-evaluate black box functions: Application in fluid dynamics

Mike Diessner, O'Connor, Joseph+5 more|arXiv (Cornell University)|Jul 19, 2022

Machine Learning and Data Classification被引用数 4

ひとこと要約

本稿は、計算流体力学（CFD）における高価なブラックボックス関数に対するベイジアン最適化（BO）の評価を行い、獲得関数、サンプリング手法、およびシングルポイント最適化対マルチポイント最適化を比較する。モンテカルロベースのBOとUCB獲得関数を用いたバッチ処理により、並列化可能で効率的な最適化が可能となり、実際のCFD問題において40回未満の評価で顕著な抗力低減とネットエネルギー効率向上が達成された。これはNUBOフレームワークを用いて実装された。

ABSTRACT

Bayesian optimization provides an effective method to optimize expensive-to-evaluate black box functions. It has been widely applied to problems in many fields, including notably in computer science, e.g. in machine learning to optimize hyperparameters of neural networks, and in engineering, e.g. in fluid dynamics to optimize control strategies that maximize drag reduction. This paper empirically studies and compares the performance and the robustness of common Bayesian optimization algorithms on a range of synthetic test functions to provide general guidance on the design of Bayesian optimization algorithms for specific problems. It investigates the choice of acquisition function, the effect of different numbers of training samples, the exact and Monte Carlo based calculation of acquisition functions, and both single-point and multi-point optimization. The test functions considered cover a wide selection of challenges and therefore serve as an ideal test bed to understand the performance of Bayesian optimization to specific challenges, and in general. To illustrate how these findings can be used to inform a Bayesian optimization setup tailored to a specific problem, two simulations in the area of computational fluid dynamics are optimized, giving evidence that suitable solutions can be found in a small number of evaluations of the objective function for complex, real problems. The results of our investigation can similarly be applied to other areas, such as machine learning and physical experiments, where objective functions are expensive to evaluate and their mathematical expressions are unknown.

研究の動機と目的

• 工学的および機械学習的課題を模倣する合成テスト関数を用いて、一般的なベイジアン最適化アルゴリズムの性能とロバスト性を評価・比較すること。
• 獲得関数、トレーニングサンプルサイズ、解析的 vs. モンテカルロによる獲得関数計算、およびシングルポイント対マルチポイント最適化の分析を通じて、特定の問題に適したBO設定の設計を支援すること。
• 高価な目的関数を伴う実世界の計算流体力学（CFD）シミュレーションにおけるBOの実用的適用性を示すこと。
• 抗力低減やネットエネルギー効率向上といった複雑な実世界問題において、少ない評価回数で効果的な解決策が得られることを裏付けること。
• 関数評価が高価で未知の分野、例えばハイパーパramータチューニングや物理実験へのBOの活用を支援すること。

提案手法

• 複雑度が増す合成テスト関数に対して、期待改善（EI）、利益確率（PI）、上界確信度（UCB）、エントロピー探索（ES）、予測エントロピー探索（PES）、最大値エントロピー探索（MES）といった複数の獲得関数を実験的にベンチマークした。
• 獲得関数の計算に用いる解析的アプローチとモンテカルロサンプリングのアプローチを比較し、精度と計算コストのトレードオフを評価した。
• 初期トレーニングサンプル数（5〜20点）を変化させた場合の、さまざまな獲得関数における最適化性能への影響を評価した。
• 特に並列評価効率に注目して、シングルポイント最適化とマルチポイント（バッチ）最適化戦略を対比した。
• 最良のBO設定を、2つの新規CFDシミュレーションに適用した：1つは平板上での全表面抗力低減、もう1つは分離吹き出し領域を有する状況での抗力低減と同時にネットエネルギー効率の向上。
• 高コストなCFDシミュレーションにおけるBOパイプラインの実装とテストに、ニューカッスル大学ベイジアン最適化（NUBO）フレームワークを用いた。

実験結果

リサーチクエスチョン

• RQ1 振動、急峻な勾配、平坦領域を示すような複雑な合成テスト関数において、どの獲得関数が最も優れた性能を示すか？
• RQ2 初期トレーニングサンプル数が、ベイジアン最適化の収束性とロバスト性に与える影響は何か？
• RQ3 精度とスケーラビリティの観点から、解析的計算とモンテカルロベースの獲得関数計算のトレードオフは何か？
• RQ4 関数評価が時間のかかる状況において、マルチポイント（バッチ）ベイジアン最適化がシングルポイント最適化を上回る状況はどのようなものか？特に並列化と評価効率の観点から。
• RQ5 ベイジアン最適化は、少ない関数評価回数で実世界のCFDシミュレーションにおいて有意義な改善を達成できるか？

主な発見

• UCBやそのバッチ版（BUCB）といった楽観的方策が、振動や急峻な勾配を示す複雑なテスト関数において、他の獲得関数を上回る性能を示した。
• テストされたBOアルゴリズムにおいて、初期トレーニングサンプル数に顕著な影響は認められず、初期化サイズの違いに対してもロバストであることが示された。
• 期待改善（EI）のような改善ベースの獲得関数は、平坦なテスト関数において、探索が不十分に機能する傾向にあった。
• モンテカルロベースの獲得関数とマルチポイント（バッチ）最適化は、特に並列評価が可能な状況では、解析的シングルポイント手法の強力な代替手段となった。
• 関数評価が時間のかかる状況では、マルチポイントアプローチが特に効果的であり、並列シミュレーション実行を可能にし、最適化に要する総時間を短縮した。
• ベイジアン最適化は、実際のCFDシミュレーションにおいて、40回未満の目的関数評価で最大60％の抗力低減とネットエネルギー効率向上を達成し、強力な実用的応用性を示した。