[论文解读] Multiobjective optimization using Gaussian process emulators via stepwise uncertainty reduction

Victor Picheny|Oct 2, 2013

Advanced Multi-Objective Optimization Algorithms参考文献 4被引用 4

一句话总结

该论文提出了一种新颖的多目标优化算法，利用高斯过程代理模型并基于逐步不确定性减少（SUR）方法，以高效识别帕累托前沿。通过闭式计算期望不确定性减少，最小化帕累托前沿中的不确定性，该方法在无需仿真或调参的情况下，实现了探索与利用之间的稳健平衡。

ABSTRACT

Optimization of expensive computer models with the help of Gaussian process emulators in now commonplace. However, when several (competing) objectives are considered, choosing an appropriate sampling strategy remains an open question. We present here a new algorithm based on stepwise uncertainty reduction principles to address this issue. Optimization is seen as a sequential reduction of the volume of the excursion sets below the current best solutions, and our sampling strategy chooses the points that give the highest expected reduction. Closed-form formulae are provided to compute the sampling criterion, avoiding the use of cumbersome simulations. We test our method on numerical examples, showing that it provides an efficient trade-off between exploration and intensification.

研究动机与目标

• 解决在具有冲突目标的昂贵多目标优化问题中选择最优采样点的挑战。
• 开发一种统计上合理的采样策略，通过减少关于帕累托前沿的不确定性，而非依赖启发式填充准则。
• 克服现有方法的局限性，如参数调优、层级目标假设或依赖蒙特卡洛模拟。
• 通过推导不确定性减少的闭式表达式，为模拟密集型SUR方法提供计算高效的替代方案。
• 在保持基准问题上强大经验性能的同时，确保不确定性减少的一致性和理论基础。

提出的方法

• 将多目标优化形式化为通过高斯过程（GP）代理模型对帕累托前沿不确定性进行逐步减少的过程。
• 将不确定性度量定义为低于当前最优解的超额集体积，以表示帕累托前沿识别中的模糊性。
• 使用逐步不确定性减少（SUR）选择能够最大化该不确定性度量期望减少的下一个评估点。
• 利用多元正态概率和二元正态累积分布函数 $\boldsymbol{\Phi}_{\rho}^{(k)}$，推导出期望不确定性减少的闭式解析表达式。
• 无需蒙特卡洛模拟即可计算采样准则，从而实现获取函数的快速且精确评估。
• 将该方法集成到顺序优化循环中，在每次新观测后更新GP模型并重新评估获取函数。

实验结果

研究问题

• RQ1 如何在多目标优化设置中正式量化并减少帕累托前沿的不确定性？
• RQ2 能否在不依赖模拟或启发式权衡的情况下，将逐步不确定性减少策略适配到多目标问题中？
• RQ3 可以推导出哪些闭式表达式，以在多目标GP优化中高效计算期望不确定性减少？
• RQ4 与现有填充准则相比，所提出的基于SUR的方法在收敛速度和帕累托前沿精度方面表现如何？
• RQ5 该方法在昂贵黑箱优化中是否实现了比最先进方法更优的探索与利用平衡？

主要发现

• 与现有的EGO类方法和基于期望改进的方法相比，所提方法在帕累托前沿识别的收敛速度和精度方面均有显著提升。
• 使用期望不确定性减少的闭式表达式消除了对计算成本高昂的蒙特卡洛模拟的需求，从而实现实时决策。
• 该方法通过直接针对帕累托前沿的不确定性，提供了一套统计上一致的多目标优化框架，避免了任意的目标层级设定。
• 数值实验表明，该算法能有效平衡探索与强化，比基准方法更高效地减少帕累托前沿的不确定性。
• 该方法在多个测试问题上表现出稳健性能，包括高维和目标冲突明显的场景。
• 推导出的 $b_{ij}^{(k)}(\mathbf{x})$ 和 $d_{ij}^{(k)}(\mathbf{x})$ 的解析公式可利用标准二元正态CDF精确计算获取函数，确保数值稳定性和效率。