[論文レビュー] Neural Process for Black-Box Model Optimization Under Bayesian Framework

Zhongkai Shangguan, Lei Lin+2 more|arXiv (Cornell University)|Apr 3, 2021

Gaussian Processes and Bayesian Inference参考文献 27被引用数 5

ひとこと要約

本稿では、ブラックボックスモデルを効率的に最適化するスケーラブルなベイジアン最適化フレームワークであるNeural Process for Bayesian Optimization (NPBO) を提案する。NPBO は、ガウス過程の代わりにニューラルプロセスを surrogate モデルとして採用することで、計算複雑性を O(N³) から線形に低減しつつ、不確実性推定を維持する。電力システムのパrameter最適化タスクにおいて、GP やランダムフォレスト、DNGO や BOHAMIANN より優れた性能を示し、7つのベンチマーク問題においても競争力のある性能を発揮した。

ABSTRACT

There are a large number of optimization problems in physical models where the relationships between model parameters and outputs are unknown or hard to track. These models are named as black-box models in general because they can only be viewed in terms of inputs and outputs, without knowledge of the internal workings. Optimizing the black-box model parameters has become increasingly expensive and time consuming as they have become more complex. Hence, developing effective and efficient black-box model optimization algorithms has become an important task. One powerful algorithm to solve such problem is Bayesian optimization, which can effectively estimates the model parameters that lead to the best performance, and Gaussian Process (GP) has been one of the most widely used surrogate model in Bayesian optimization. However, the time complexity of GP scales cubically with respect to the number of observed model outputs, and GP does not scale well with large parameter dimension either. Consequently, it has been challenging for GP to optimize black-box models that need to query many observations and/or have many parameters. To overcome the drawbacks of GP, in this study, we propose a general Bayesian optimization algorithm that employs a Neural Process (NP) as the surrogate model to perform black-box model optimization, namely, Neural Process for Bayesian Optimization (NPBO). In order to validate the benefits of NPBO, we compare NPBO with four benchmark approaches on a power system parameter optimization problem and a series of seven benchmark Bayesian optimization problems. The results show that the proposed NPBO performs better than the other four benchmark approaches on the power system parameter optimization problem and competitively on the seven benchmark problems.

研究の動機と目的

• ブラックボックスモデルのベイジアン最適化において、ガウス過程の高い計算コストとスケーラビリティの低さを解決すること。
• 大規模な観測セットや高次元パrameter空間においても、不確実性推定を維持しながら効率的にスケーリングできる surrogate モデルの開発。
• 評価が高価な複雑な物理系、例えば電力システムにおけるパrameter最適化の効率性と正確性の向上。
• 実世界の問題と合成ベンチマーク問題において、最新のベイジアン最適化手法と NPBO を比較評価すること。

提案手法

• NPBO は、ブラックボックスモデルの応答面を近似し、不確実性を推定するためにニューラルプロセス（NP）を surrogate モデルとして採用する。
• NP は観測された入力-出力ペアに基づいて訓練され、パラメータ設定の間で一般化可能な確率的過程を学習する。
• ベイジアン最適化のループは、NP の予測平均と分散を用いて獲得関数をガイドし、探索と活用のバランスを取る。
• 獲得関数は、リグレットを最小化する次回のクエリポイントを選択し、このプロセスを繰り返し surrogate モデルを改善する。
• NPBO はニューラルネットワークアーキテクチャを活用することで、O(N³) のスケーリングを示す GP を克服し、線形時間計算量を達成する。
• 本手法は、14パラメータの実世界の電力システムモデルと、7つの合成ベンチマーク関数の両方へ適用された。

実験結果

リサーチクエスチョン

• RQ1 高次元で評価コストの高いブラックボックスモデルにおいて、ニューラルプロセスを surrogate モデルとして用いることで、ガウス過程を上回る性能を発揮できるか？
• RQ2 GP に基づく手法と比較して、計算コストを著しく低減しながらも、正確な不確実性推定を維持できるか？
• RQ3 多くの高価な評価を要する実世界の工学的問題において、NPBO はどのように性能を発揮するか？
• RQ4 標準的なベンチマーク最適化問題において、DNGO や BOHAMIANN などの他の現代的 surrogate モデルと比較して、NPBO はどのように性能を示すか？

主な発見

• 電力システムのパrameter最適化問題において、NPBO は MSE 5.182×10⁻³ の最低水準を達成し、GP（1.759×10⁻¹）、DNGO（1.504×10⁻¹）、BOHAMIANN（2.718×10⁻²）を上回った。
• NPBO は収束にわずか 157 秒を要し、BOHAMIANN（1672 秒）や GP（349 秒）よりも顕著に高速であった。
• 7つのベンチマーク問題において、NPBO は7つの関数のうち4つで上位3位以内の成績を収め、GP や BOHAMIANN、DNGO と同等の性能を示した。
• Branin ベンチマークでは、NPBO は GP や BOHAMIANN と同等の初期リグレット性能を示し、ランダムフォレストやランダムサーチを上回った。
• NPBO による最適化モデル出力は、わずかな観測数でもターゲット出力と極めて近い値を示し、高いサンプル効率を示した。
• 結果から、NPBO がブラックボックス最適化において正確性、不確実性推定、計算効率のバランスを効果的に実現できていることが示された。