[论文解读] A trust-region method for derivative-free nonlinear constrained stochastic optimization

Menhorn, F., F. Augustin+2 more|arXiv (Cornell University)|Mar 12, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 47被引用 11

一句话总结

本文提出 (S)NOWPAC，一种用于不确定条件下非线性约束随机优化的无导数信赖域优化方法。它结合局部完全二次代理模型与高斯过程代理模型，以降低黑箱目标函数和约束评估中的噪声，从而在可行性与准确性方面相比现有方法实现更稳健的收敛。

ABSTRACT

In this work we introduce the stochastic nonlinear constrained derivative-free optimization method (S)NOWPAC (Stochastic Nonlinear Optimization With Path-Augmented Constraints). The method extends the derivative-free optimizer NOWPAC to be applicable for optimization under uncertainty. It is based on a trust-region framework, utilizing local fully quadratic surrogate models combined with Gaussian process surrogates to mitigate the noise in the objective function and constraint evaluations. We show the performance of our algorithm on a variety of robust optimization problems from the CUTEst benchmark suite by comparing to other state-of-the-art optimization methods. Although we focus on robust optimization benchmark problems to demonstrate (S)NOWPAC's capabilities, the optimizer can be applied to a broad range of applications in nonlinear constrained stochastic optimization.

研究动机与目标

• 解决目标函数与约束为具有噪声评估的随机、黑箱函数且无法获取梯度的非线性约束优化问题。
• 开发一种稳健的优化框架，以处理仿真应用中的不确定性，例如在风速变化和传感器噪声下的风力发电场控制。
• 通过利用高斯过程模型降低噪声并校正评估，提升无导数优化中的收敛性与可行性。
• 通过结合信赖域方法与代理建模及可行性恢复，实现在不确定性下的高效优化。
• 在计算预算有限的情况下，优于现有随机与无导数优化方法，在解质量与约束违反控制方面表现更优。

提出的方法

• 该方法将无导数信赖域优化器 NOWPAC 扩展，以处理目标函数与约束的随机、噪声黑箱评估。
• 采用局部完全二次代理模型，在信赖域内近似目标函数与约束，提升局部收敛性。
• 使用高斯过程代理模型对函数评估中的噪声进行建模与降低，实现更准确、更稳定的优化。
• 算法采用路径增强的信赖域框架，根据代理模型预测与噪声估计自适应更新信赖域。
• 引入可行性恢复模式，以纠正由约束评估中噪声引起的错误可行性假设。
• 支持对高斯过程超参数进行解析与启发式平滑，以在精度与计算成本之间取得平衡。

实验结果

研究问题

• RQ1 无导数信赖域方法能否有效处理随机优化问题中噪声、黑箱的目标函数与约束函数？
• RQ2 如何将高斯过程代理模型整合到信赖域框架中，以降低噪声并提升随机优化中的收敛性？
• RQ3 基于代理模型的噪声降低对随机优化中的可行性与约束违反有何影响？
• RQ4 (S)NOWPAC 与现有随机与无导数优化方法相比，在解质量与鲁棒性方面表现如何？
• RQ5 在高斯过程代理模型中，使用解析平滑与启发式平滑时，计算成本与精度之间的权衡是什么？

主要发现

• (S)NOWPAC 由于其可行性恢复机制，显著降低了约束违反，通常低于噪声水平。
• 在目标函数误差与最优设计精度方面，该方法优于 SPSA 和 KWSA 等其他优化器，尤其在低维问题中表现更优。
• 对于测试问题 29 和 228，(S)NOWPAC 中的解析平滑方法在目标函数与最优设计的相对误差方面优于启发式平滑。
• 在高维问题（如 100、113、285）中，解析平滑方法仍表现相当或优于启发式方法，证明其在不同维度下的鲁棒性。
• 使用高斯过程代理模型可实现更优的噪声抑制与更可靠的收敛，优于仅依赖随机近似或重复评估的方法。
• 通过采用近似高斯过程方法（SoR、DTC、FITC），在保持性能的同时降低了全局高斯过程评估的成本，维持了计算效率。