[論文レビュー] Noisy-Input Entropy Search for Efficient Robust Bayesian Optimization

Lukas P. Fröhlich, Edgar D. Klenske+3 more|arXiv (Cornell University)|Feb 7, 2020

Gaussian Processes and Bayesian Inference参考文献 34被引用数 18

ひとこと要約

この論文では、入力不確実性を考慮してロバストなベイズ最適化を実現する情報理論的獲得関数であるノイジィ・インプット・エントロピー探索（NES）を紹介する。NESは、ロバストな目的関数をガウス過程としてモデル化することで、入力ノイズ下でも広範で安定した最適解を信頼性高く特定できる。NESはロバスト最適解に関する情報量の増加を最大化し、ベンチマークおよび航空宇宙タスクにおいて既存手法を上回り、推論レジストを著しく低減する。

ABSTRACT

We consider the problem of robust optimization within the well-established Bayesian optimization (BO) framework. While BO is intrinsically robust to noisy evaluations of the objective function, standard approaches do not consider the case of uncertainty about the input parameters. In this paper, we propose Noisy-Input Entropy Search (NES), a novel information-theoretic acquisition function that is designed to find robust optima for problems with both input and measurement noise. NES is based on the key insight that the robust objective in many cases can be modeled as a Gaussian process, however, it cannot be observed directly. We evaluate NES on several benchmark problems from the optimization literature and from engineering. The results show that NES reliably finds robust optima, outperforming existing methods from the literature on all benchmarks.

研究の動機と目的

• 標準的なベイズ最適化が、実装時の摂動によって性能が低下するという限界を解消すること。
• 入力ノイズ下でのロバスト最適解に関する知識を明示的に最大化する情報理論的獲得関数の開発。
• 直接観測できないが、ノイズのある関数評価から推論される必要がある、ロバストな目的関数を潜在的ガウス過程としてモデル化すること。
• 実世界の応用において、入力パラメータが実装時に確率的摂動を受ける状況でも、効率的かつ信頼性の高い最適化を可能にすること。
• ヒューリスティック的または情報理論的でないロバストBO手法を、原理的かつサンプル効率の良いアプローチで凌駃すること。

提案手法

• 入力摂動下での期待目的値として定義されるロバスト最大値 $ g^* $ に関する情報量の増加を最大化する獲得関数であるノイジィ・インプット・エントロピー探索（NES）を提案する。
• 直接観測できないが、ロバスト最適解に条件付けられたガウス過程（GP）としてロバストな目的関数をモデル化する。
• 情報量の増加を効率的に計算可能にするために、最大値エントロピー探索（MES）を基盤とする。
• $ g^* $ に条件付けられた予測分布が解析的に得られないことから、その近似手法を2つ開発する：極限的に正確な拒否採用法（rejection sampling）と計算効率の高い期待伝播法（expectation propagation）。
• 各評価後に周辺尤度の最大化により、カーネルハイパーパrameterと観測ノイズを推定する。長さ尺度には対数正規ハイパーパラメータを用いて収束を安定化させる。
• 最適解が確率的入力摂動下でも高い値を保つ場合に優遇される確率的定式化を採用し、狭いピークよりも広いピークを好む。

実験結果

リサーチクエスチョン

• RQ1 実装時に確率的摂動が生じる状況下でも、ブラックボックス関数をロバストに最適化できる情報理論的獲得関数を設計可能か？
• RQ2 ロバスト最大値が直接観測できない状況で、ガウス過程の予測分布をどのようにしてこの値に条件付けられるか？
• RQ3 ロバスト最適解に関する情報量を最大化するエントロピーに基づく獲得関数は、ヒューリスティック的または情報理論的でないロバストBO手法を上回るか？
• RQ4 入力次元数やノイズレベルの増加に伴い、本手法の性能はどのように変化するか？
• RQ5 高リスクを伴う実世界の工学的応用、例えば航空宇宙分野の軌道計画において、本手法は信頼性高くロバストな最適解を特定できるか？

主な発見

• NESは、すべてのベンチマーク関数において、標準的なベイズ最適化および既存のロバスト手法を一貫して上回り、収束性が優れており、推論レジストが低い。
• 3次元のハーツマン関数（$ m{ ext{Σ}}_x = 0.1^2 \mathbf{I} $）において、NESは標準BOおよび他のロバスト手法よりも著しく低い推論レジストを達成した。
• 重力補助ミッションタスクでは、15回の評価後、NES-EPは標準BOと比べて推論レジストをほぼ2桁低減した。
• 1次元、2次元、3次元の関数、さまざまなノイズレベルおよび目的関数形状を含む多様なベンチマークタイプにおいて、NESの性能は安定している。
• 期待伝播近似（NES-EP）は、拒否採用法に匹敵する高い精度と性能を維持しながら、計算効率の良い代替手法を提供する。
• 標準BOは、グローバル最適解を発見するが、入力摂動に敏感であるため、ロバストな設定では失敗する。重力補助タスクにおける推論レジストの停滞がその証左である。