[論文レビュー] A Bayesian Approach for the Robust Optimisation of Expensive-To-Evaluate Functions.

Nicholas D. Sanders, Richard Everson+2 more|arXiv (Cornell University)|Apr 25, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 26被引用数 9

ひとこと要約

この論文は、性能が高く入力の変動に対しても感受性が低い設計空間の領域を特定することで、評価が高価な関数のためのベイジアンロバスト最適化手法を提案する。ガウス過程のサンプリングを用いて、実現の各々における期待改善を推定し、進化的アルゴリズムによって最適化する。2次元、5次元、10次元のテスト関数において、最先端の手法に比べ優れた収束性能を示す。

ABSTRACT

Many expensive black-box optimisation problems are sensitive to their inputs. In these problems it makes more sense to locate a region of good designs, than a single, possible fragile, optimal design. Expensive black-box functions can be optimised effectively with Bayesian optimisation, where a Gaussian process is a popular choice as a prior over the expensive function. We propose a method for robust optimisation using Bayesian optimisation to find a region of design space in which the expensive function's performance is insensitive to the inputs whilst retaining a good quality. This is achieved by sampling realisations from a Gaussian process modelling the expensive function and evaluating the improvement for each realisation. The expectation of these improvements can be optimised cheaply with an evolutionary algorithm to determine the next location at which to evaluate the expensive function. We describe an efficient process to locate the optimum expected improvement. We show empirically that evaluating the expensive function at the location in the candidate sweet spot about which the model is most uncertain or at random yield the best convergence in contrast to exploitative schemes. We illustrate our method on six test functions in two, five, and ten dimensions, and demonstrate that it is able to outperform a state-of-the-art approach from the literature.

研究の動機と目的

• 評価が高価なブラックボックス最適化において、単一の最適設計に限界があることに対処する。小さな入力の変動が性能を低下させる可能性があるためである。
• 入力の不確実性が存在しても性能が高く保たれる設計空間のロバストな領域を特定する。
• 従来の搧取的最適化戦略と比較して、収束速度とロバスト性を向上させる。
• モデルの不確実性下での期待改善を推定するための効率的なサンプリングベースのアプローチを開発する。
• 2次元、5次元、10次元のベンチマーク関数において、本手法の有効性を示す。

提案手法

• 高価な関数に対する事前分布としてガウス過程を用い、不確実性をモデル化し、確率的推論を可能にする。
• 可能な真の関数の挙動を表現するために、ガウス過程の複数の実現をサンプリングする。
• 各サンプリングされた実現について、現在の最良値に対する改善を計算し、潜在的な利益を評価する。
• すべてのサンプリングされた実現における期待改善を計算し、進化的アルゴリズムを用いて最適化する。
• この期待改善を最大にする位置に基づいて次の評価点を選択し、探索とロバスト性のバランスをとる。
• 本手法は不確実性が高く、期待性能も高い領域に動的に焦点を当てるため、単一の最適点への過剰適合を回避する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアン最適化フレームワークは、関数性能が高くかつ入力の変動に対して感受性が低い設計空間の領域を特定できるか？
• RQ2 サンプリングベースの期待改善推定は、決定論的または単一パスの改善指標と比較して、ロバスト最適化においてどのように異なるか？
• RQ3 獲得関数において不確実性とロバスト性を標的とすることで、搧取的戦略と比較して収束が速くなるか？
• RQ4 多変数の高価な関数において、本手法は最先端のロバスト最適化アプローチと比較してどのように性能を発揮するか？
• RQ5 期待改善を最適化するために進化的アルゴリズムを用いることで、ロバスト性と収束性がどのように向上するか？

主な発見

• 性能が高く、感受性が低い「スイートスポット」とされる候補領域で関数を評価することで、搧取的スキームよりも優れた収束が達成される。
• ガウス過程モデルにおける最大不確実性領域を標的とすることで、ランダムサンプリングや純粋にグリーディーな選択と比較して優れた性能が得られる。
• 2次元、5次元、10次元の6つのテスト関数において、本手法は最先端のロバスト最適化アプローチを上回る。
• 実現のサンプリングを用いた期待改善の計算により、探索とロバスト性のバランスを効果的にとることができる。
• 進化的アルゴリズムは期待改善の目的関数を効率的に最適化でき、高次元問題に対してもスケーラブルで実用的である。
• 本手法は、入力摂動に対しても関数性能が安定するロバストな領域を効果的に特定でき、実世界の応用における有効性を裏付けた。