[论文解读] Neural Process for Black-Box Model Optimization Under Bayesian Framework

Zhongkai Shangguan, Lei Lin+2 more|arXiv (Cornell University)|Apr 3, 2021

Gaussian Processes and Bayesian Inference参考文献 27被引用 5

一句话总结

该论文提出神经过程贝叶斯优化（NPBO），一种可扩展的贝叶斯优化框架，用神经过程替代高斯过程作为代理模型，以高效优化黑箱模型。NPBO将计算复杂度从 O(N³) 降低至线性，同时保持不确定性估计，在电力系统参数优化任务中优于 GP、随机森林、DNGO 和 BOHAMIANN，并在七个基准问题上表现出具有竞争力的性能。

ABSTRACT

There are a large number of optimization problems in physical models where the relationships between model parameters and outputs are unknown or hard to track. These models are named as black-box models in general because they can only be viewed in terms of inputs and outputs, without knowledge of the internal workings. Optimizing the black-box model parameters has become increasingly expensive and time consuming as they have become more complex. Hence, developing effective and efficient black-box model optimization algorithms has become an important task. One powerful algorithm to solve such problem is Bayesian optimization, which can effectively estimates the model parameters that lead to the best performance, and Gaussian Process (GP) has been one of the most widely used surrogate model in Bayesian optimization. However, the time complexity of GP scales cubically with respect to the number of observed model outputs, and GP does not scale well with large parameter dimension either. Consequently, it has been challenging for GP to optimize black-box models that need to query many observations and/or have many parameters. To overcome the drawbacks of GP, in this study, we propose a general Bayesian optimization algorithm that employs a Neural Process (NP) as the surrogate model to perform black-box model optimization, namely, Neural Process for Bayesian Optimization (NPBO). In order to validate the benefits of NPBO, we compare NPBO with four benchmark approaches on a power system parameter optimization problem and a series of seven benchmark Bayesian optimization problems. The results show that the proposed NPBO performs better than the other four benchmark approaches on the power system parameter optimization problem and competitively on the seven benchmark problems.

研究动机与目标

• 解决高斯过程在黑箱模型贝叶斯优化中计算成本高、可扩展性差的问题。
• 开发一种代理模型，在大规模观测集和高维参数空间下仍能保持不确定性估计并实现高效扩展。
• 提升复杂物理系统（如电力系统）中参数优化的效率与准确性，其中评估成本昂贵。
• 在真实世界和合成基准问题上，将 NPBO 与最先进的贝叶斯优化方法进行对比评估。

提出的方法

• NPBO 使用神经过程（NP）作为代理模型，以近似黑箱模型的响应面并估计不确定性。
• NP 通过观测到的输入-输出对进行训练，学习一种可泛化至不同参数配置的随机过程。
• 贝叶斯优化循环利用 NP 的预测均值和方差来指导采集函数，实现探索与利用的平衡。
• 采集函数选择下一个查询点以最小化遗憾，该过程迭代地优化代理模型。
• NPBO 利用神经网络架构实现线性时间复杂度，克服了 GP 的 O(N³) 扩展瓶颈。
• 该方法应用于一个实际的 14 参数电力系统模型和七个合成基准函数。

实验结果

研究问题

• RQ1 在高维、昂贵的黑箱模型中，神经过程代理模型是否能优于高斯过程？
• RQ2 NPBO 是否在显著降低计算成本的同时，仍能保持准确的不确定性估计，相比基于 GP 的方法？
• RQ3 NPBO 在需要大量昂贵评估的真实工程问题中表现如何？
• RQ4 NPBO 在标准基准优化问题上与 DNGO 和 BOHAMIANN 等现代代理模型相比表现如何？

主要发现

• 在电力系统参数优化问题中，NPBO 达到最低的均方误差（MSE）5.182×10⁻³，优于 GP（1.759×10⁻¹）、DNGO（1.504×10⁻¹）和 BOHAMIANN（2.718×10⁻²）。
• NPBO 仅用 157 秒即收敛，显著快于 BOHAMIANN（1672 秒）和 GP（349 秒）。
• 在七个基准问题中，NPBO 在四个函数中位列前三名，性能与 GP、BOHAMIANN 和 DNGO 竞争。
• 在 Branin 基准问题中，NPBO 展现出与 GP 和 BOHAMIANN 相当的初始遗憾性能，优于随机森林和随机搜索。
• 在 NPBO 优化下，模型输出与目标输出高度一致，即使在少量观测后偏差也极小，表明其具有极高的样本效率。
• 结果表明，NPBO 在黑箱优化中有效平衡了准确性、不确定性估计与计算效率。