[論文レビュー] Uncertainty aware Search Framework for Multi-Objective Bayesian Optimization with Constraints

Syrine Belakaria, Aryan Deshwal+1 more|arXiv (Cornell University)|Aug 16, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 19被引用数 9

ひとこと要約

本稿では、コストの高い関数評価を削減するため、不確実性を考慮した2段階選択プロセスを用いる、制約付き多目的ベイズ最適化のための新規な不確実性認識探索フレームワークUSeMOCを提案する。まず、真の目的関数の代理として安価なスラグレートベースの制約付き多目的最適化により有望候補を特定し、次に不確実性に基づいて最良の候補を選択する。USeMOCは、模擬シミュレーションを90.7%〜93.3%削減（ベースライン比で90%以上）し、アナログ回路設計においてより優れたパレート最適解を発見する。

ABSTRACT

We consider the problem of constrained multi-objective (MO) blackbox optimization using expensive function evaluations, where the goal is to approximate the true Pareto set of solutions satisfying a set of constraints while minimizing the number of function evaluations. We propose a novel framework named Uncertainty-aware Search framework for Multi-Objective Optimization with Constraints (USeMOC) to efficiently select the sequence of inputs for evaluation to solve this problem. The selection method of USeMOC consists of solving a cheap constrained MO optimization problem via surrogate models of the true functions to identify the most promising candidates and picking the best candidate based on a measure of uncertainty. We applied this framework to optimize the design of a multi-output switched-capacitor voltage regulator via expensive simulations. Our experimental results show that USeMOC is able to achieve more than 90 % reduction in the number of simulations needed to uncover optimized circuits.

研究の動機と目的

• 目的が対立し、評価が高コストである、高価で制約付きの多目的ブラックボックス最適化の課題に対処すること。
• 2段階探索フレームワークに不確実性認識選択を統合することで、ベイズ最適化における不確実性管理を改善すること。
• 制約下での真のパレート集合を近似するために必要な高価な関数評価回数を削減すること。
• 実世界のアナログ回路設計問題において、PESMOC、NSGA-II、MOEADなどの既存手法を上回る解の質と評価効率を達成すること。

提案手法

• USeMOCは2段階探索を採用する：まず、真の目的関数の代理としての獲得関数を用いた安価な制約付き多目的最適化問題を解く。
• 未知の目的関数および制約関数を表現するためにガウス過程（GP）モデルを用い、不確実性推定に平均μ(x)と標準偏差σ(x)を用いる。
• 使用する獲得関数は期待改善（EI）と下位信頼区間（LCB）であり、それぞれEI(x) = σ(x)(αΦ(α) + φ(α))およびLCB(x) = μ(x) − β¹ᐟ²σ(x)として定義される。
• 探索と活用のバランスを取るために、スラグレートMO問題の解集合から不確実性の尺度に基づいて有望候補を選択する。
• 本手法は、入力変数が32個、目的関数が9個（効率、出力電圧、リップルを含む）のマルチアウトプット・スイッチドコンデンサ型電圧レギュレータの最適化に適用されている。
• 最適化プロセスにホワイトボックス（C₀）およびブラックボックス（C₁–C₈）制約を統合し、妥当な解の生成を保証している。

実験結果

リサーチクエスチョン

• RQ1 2段階の不確実性認識探索フレームワークは、制約付き多目的ベイズ最適化の効率を向上させることができるか？
• RQ2 USeMOCは、PESMOC や MOEAD といった最先端手法と比較して、収束速度および解の質においてどのように異なるか？
• RQ3 USeMOCは、パレートフロントの正確性を維持または向上させつつ、高価なシミュレーション回数をどの程度削減できるか？
• RQ4 不確実性に基づく選択の統合は、制約付き多目的最適化における探索を強化するか？

主な発見

• EIおよびLCBの両獲得関数を用いたUSeMOCは、ハイパーボリューム指標においてすべてのベースラインを著しく上回り、少ないシミュレーション回数でより優れたパレートフロント近似を達成する。
• USeMOCは、最も性能の優れたベースラインであるMOEADと比較して、90.7%のシミュレーション削減を達成しており、同程度またはより優れた解の質に到達するためのシミュレーション回数を90%以上削減している。
• USeMOC-EIを用いた最適化回路は76.2%の効率を達成し、MOEAD最適化設計よりも5.25%高い。また、必要な出力電圧およびリップル制約を満たしている。
• MOEADおよびUSeMOC-EIの両設計とも、100mVのリップル要件を満たしており、負荷変動に応じて出力電圧が0.52V–0.61V（1/3x比）および1.07V–1.12V（2/3x比）の範囲内に保たれている。
• 本フレームワークは、1つのホワイトボックス制約（C₀）と8つのブラックボックス制約（C₁–C₈）を含む混合制約タイプを効果的に処理でき、実世界のアナログ回路設計における堅牢性を示している。