[论文解读] Deep Gaussian Process-based Multi-fidelity Bayesian Optimization for Simulated Chemical Reactors

Tom V. Savage, Nausheen Basha+2 more|arXiv (Cornell University)|Oct 31, 2022

Advanced Multi-Objective Optimization Algorithms被引用 7

一句话总结

本文提出了一种基于深度高斯过程（DGP）的多保真度贝叶斯优化框架，以高效优化螺旋管反应器的几何结构，从而提升其平推流性能。通过利用五个离散的网格保真度级别，并采用不确定性感知的保真度选择策略，该方法在显著降低计算成本的同时，实现了与实验数据高度一致的高精度解。

ABSTRACT

New manufacturing techniques such as 3D printing have recently enabled the creation of previously infeasible chemical reactor designs. Optimizing the geometry of the next generation of chemical reactors is important to understand the underlying physics and to ensure reactor feasibility in the real world. This optimization problem is computationally expensive, nonlinear, and derivative-free making it challenging to solve. In this work, we apply deep Gaussian processes (DGPs) to model multi-fidelity coiled-tube reactor simulations in a Bayesian optimization setting. By applying a multi-fidelity Bayesian optimization method, the search space of reactor geometries is explored through an amalgam of different fidelity simulations which are chosen based on prediction uncertainty and simulation cost, maximizing the use of computational budget. The use of DGPs provides an end-to-end model for five discrete mesh fidelities, enabling less computational effort to gain good solutions during optimization. The accuracy of simulations for these five fidelities is determined against experimental data obtained from a 3D printed reactor configuration, providing insights into appropriate hyper-parameters. We hope this work provides interesting insight into the practical use of DGP-based multi-fidelity Bayesian optimization for engineering discovery.

研究动机与目标

• 解决在螺旋管反应器几何设计中因计算成本高昂且无导数的优化挑战，以改善平推流行为。
• 通过在贝叶斯优化框架中整合多种仿真保真度，降低基于CFD的反应器优化中的计算成本。
• 针对实验数据验证五个离散网格保真度级别的准确性，以实现可靠的不确定性量化。
• 开发一种超参数高效的多保真度贝叶斯优化算法，利用深度高斯过程。
• 基于优化后的几何结构，提供可操作的物理解析，以指导未来脉冲流反应器的设计。

提出的方法

• 该方法采用深度高斯过程（DGPs）来建模五个离散网格保真度（基于轴向和径向分辨率）与最终平推流特性N之间的关系。
• 提出了一种改进的多保真度贝叶斯优化算法，受MF-GP-UCB启发，根据预测不确定性与仿真成本，同时选择下一个设计点和最优保真度级别。
• 保真度选择由一个成本加权的采集函数引导：$ t^* = \arg\max_t \{ \gamma_t \beta^{1/2} \sigma_t(x^*) \} $，其中 $ \gamma_t = \max(\tau)/\tau_t $，且 $ \tau_t $ 表示在保真度 $ t $ 下的平均仿真时间。
• DGP模型实现了跨保真度的端到端不确定性传播，使算法能够在不确定性较高且计算成本较低时优先选择低保真度评估。
• 初始DGP训练需要在所有保真度级别上进行仿真，这是为了在优化过程中实现更快收敛的权衡。
• 该算法设计为仅需标准UCB贝叶斯优化的超参数，不引入额外超参数，从而在先验知识有限的场景下增强鲁棒性。

实验结果

研究问题

• RQ1 深度高斯过程能否有效建模具有不同网格分辨率的螺旋管反应器多保真度CFD仿真？
• RQ2 通过基于不确定性的保真度选择策略整合多种保真度，如何提升优化效率与解的准确性？
• RQ3 在缺乏先验知识的工程设计问题中，多保真度贝叶斯优化应使用多少个离散保真度级别为最优？
• RQ4 在不损害准确性的前提下，低保真度仿真在识别高性能反应器几何结构方面能发挥多大作用？
• RQ5 从优化后的反应器几何结构中可以获得哪些物理解析，以指导未来脉冲流螺旋管反应器的设计？

主要发现

• 五个离散网格保真度在预测平推流特性N方面表现出递增的准确性，高保真度仿真结果与实验数据高度吻合。
• 基于DGP的多保真度贝叶斯优化框架成功识别出具有大线圈半径和低螺距的最优反应器几何结构，该结构显著提升了平推流性能。
• 通过在不确定性较高且成本较低时动态选择低保真度仿真，该方法实现了显著的计算节省，大幅降低了整体评估时间。
• 作者建议在实际应用中仅使用2–3个保真度级别，即使存在更多可用级别，以避免超参数过多和收敛速度变慢。
• 该算法在无需额外超参数的情况下表现出稳健性能，仅依赖标准UCB贝叶斯优化的超参数，使其适用于先验知识有限的真实工程问题。
• 与实验数据的验证结果表明，最高保真度仿真能准确逼近真实的平推流行为，支持在准确设计优化中采用多保真度建模方法。