[论文解读] A Multi-Fidelity Active Learning Method for Global Design Optimization Problems with Noisy Evaluations

Riccardo Pellegrini, Jeroen Wackers+4 more|arXiv (Cornell University)|Feb 14, 2022

Advanced Multi-Objective Optimization Algorithms被引用 4

一句话总结

本文提出一种基于随机径向基函数与自适应超参数优化的多保真度主动学习方法，以在噪声评估条件下提升全局设计优化的性能。通过结合低保真度模拟与校正误差代理模型，并利用置信下界准则同时选择设计点与保真度级别，该方法在高维问题与噪声环境中相比仅使用高保真度的方法，实现了更高的精度与效率。

ABSTRACT

A multi-fidelity (MF) active learning method is presented for design optimization problems characterized by noisy evaluations of the performance metrics. Namely, a generalized MF surrogate model is used for design-space exploration, exploiting an arbitrary number of hierarchical fidelity levels, i.e., performance evaluations coming from different models, solvers, or discretizations, characterized by different accuracy. The method is intended to accurately predict the design performance while reducing the computational effort required by simulation-driven design (SDD) to achieve the global optimum. The overall MF prediction is evaluated as a low-fidelity trained surrogate corrected with the surrogates of the errors between consecutive fidelity levels. Surrogates are based on stochastic radial basis functions (SRBF) with least squares regression and in-the-loop optimization of hyperparameters to deal with noisy training data. The method adaptively queries new training data, selecting both the design points and the required fidelity level via an active learning approach. This is based on the lower confidence bounding method, which combines performance prediction and associated uncertainty to select the most promising design regions. The fidelity levels are selected considering the benefit-cost ratio associated with their use in the training. The method's performance is assessed and discussed using four analytical tests and three SDD problems based on computational fluid dynamics simulations, namely the shape optimization of a NACA hydrofoil, the DTMB 5415 destroyer, and a roll-on/roll-off passenger ferry. Fidelity levels are provided by both adaptive grid refinement and multi-grid resolution approaches. Under the assumption of a limited budget of function evaluations, the proposed MF method shows better performance in comparison with the model trained by high-fidelity evaluations only.

研究动机与目标

• 解决在仿真驱动设计（SDD）工程优化中，由计算成本高且存在噪声的仿真带来的挑战。
• 通过利用多保真度级别，在保持高精度的同时降低计算成本，实现全局优化。
• 克服标准主动学习在噪声环境中存在的局限性，防止模型在噪声区域发生过拟合。
• 开发一种动态自适应框架，基于收益-成本权衡，同时选择最优设计点与保真度级别。
• 通过结合不确定性感知的主动学习与多保真度代理模型，改善高维设计空间中的探索与利用平衡。

提出的方法

• 使用最小二乘回归与闭环超参数优化，构建基于随机径向基函数（SRBF）的广义多保真度代理模型，以处理噪声训练数据。
• 将整体预测建模为低保真度代理模型，通过相邻保真度级别之间的误差代理模型进行校正，实现分层精度提升。
• 实施基于置信下界（LCB）准则的主动学习策略，通过平衡预测值与不确定性，选择最具信息量的设计点。
• 根据收益-成本比率动态选择每个新评估的保真度级别，优先选择低成本且信息量高的评估，以减轻整体计算负担。
• 将自适应网格加密与多网格分辨率作为保真度级别的自然来源，实现在CFD模拟中一致的多保真度数据生成。
• 使用聚类指标（如组内平方和、轮廓系数）优化RBF中心数量，作为留一法交叉验证的替代方案。

实验结果

研究问题

• RQ1 在存在噪声评估的情况下，多保真度主动学习框架是否能在精度与计算效率上优于仅使用高保真度的代理模型？
• RQ2 增加保真度级别数量如何影响代理模型在高维设计空间中的性能与鲁棒性？
• RQ3 基于LCB的主动学习策略在多大程度上可缓解噪声引起的过拟合，并改善设计空间探索？
• RQ4 自适应保真度选择与误差校正机制如何在最小化昂贵的高保真度评估次数的同时提升模型精度？
• RQ5 多网格与自适应网格加密方法是否可作为多保真度优化框架中有效且自然存在的保真度级别？

主要发现

• 在三个保真度级别下，多保真度代理模型在预测误差方面始终优于两保真度模型与仅使用高保真度的模型，尤其在高维问题（D=5与D=10）中表现更优。
• 在NACA水翼与DTMB 5415驱逐舰问题中，三保真度MF模型的误差值低于两保真度模型，表明其具有更高的鲁棒性与噪声过滤能力。
• 主动学习过程由于低保真度预测中更高的不确定性，促进了设计空间的更广泛探索，尤其是在噪声区域。
• 基于LCB的选择策略导致训练点在噪声区域聚集，因为训练点处的不确定性不会消失，这有助于噪声识别，但降低了探索的均匀性。
• 在有限的函数评估预算下，该方法在高维与噪声环境中均优于仅使用高保真度的模型。
• 自适应网格加密与多网格分辨率被证明是自然且有效的保真度级别来源，可无缝集成到多保真度框架中。