[论文解读] A Multi-Level Simulation Optimization Approach for Quantile Functions

Songhao Wang, Szu Hui Ng+1 more|arXiv (Cornell University)|Jan 17, 2019

Simulation Techniques and Applications参考文献 33被引用 4

一句话总结

本文提出一种基于协同克里金模型的多层级仿真优化算法，旨在高成本仿真环境下高效最小化损失分布的高分位数。通过从较低分位数到较高分位数的顺序优化，并利用低层级的精确信息，该方法显著加快了收敛速度，减少了仿真预算，实现了对真实最小分位数值的几乎必然收敛。

ABSTRACT

Quantile is a popular performance measure for a stochastic system to evaluate its variability and risk. To reduce the risk, selecting the actions that minimize the tail quantiles of some loss distributions is typically of interest for decision makers. When the loss distribution is observed via simulations, evaluating and optimizing its quantile functions can be challenging, especially when the simulations are expensive, as it may cost a large number of simulation runs to obtain accurate quantile estimators. In this work, we propose a multi-level metamodel (co-kriging) based algorithm to optimize quantile functions more efficiently. Utilizing non-decreasing properties of quantile functions, we first search on cheaper and informative lower quantiles which are more accurate and easier to optimize. The quantile level iteratively increases to the objective level while the search has a focus on the possible promising regions identified by the previous levels. This enables us to leverage the accurate information from the lower quantiles to find the optimums faster and improve algorithm efficiency.

研究动机与目标

• 解决在仿真成本高昂且分位数估计存在噪声的随机系统中，优化高分位数（如风险价值）的挑战。
• 开发一种仿真优化算法，以在有限的仿真预算下，高效识别使损失函数α-分位数最小的最优设计。
• 通过从较低分位数到较高分位数的顺序优化，利用分位数函数的非递减性质，提升搜索效率。
• 在较弱正则性条件下，确保算法几乎必然收敛至真实最优解。
• 减少在风险规避决策中实现准确分位数估计所需的昂贵仿真运行次数。

提出的方法

• 该方法采用多层级协同克里金（基于代理模型）框架，对多个分位数层级的分位数函数进行建模，从较低且更精确的分位数开始。
• 使用期望改进（EI）作为填充准则，以在搜索空间中平衡探索与开发。
• 该算法迭代地将分位数层级从较低值提升至较高值（例如，从α=0.8提升至α=0.99），并重用先前层级的信息以指导搜索。
• 利用高斯过程模型的预测方差和响应不确定性来量化置信度，并指导在有希望区域的采样。
• 基于递减的期望改进阈值设计停止规则，确保收敛性的同时保持计算效率。
• 该方法利用分位数函数的连续性和单调性，确保搜索逐步聚焦于可能包含全局最小值的区域。

实验结果

研究问题

• RQ1 多层级仿真优化方法是否能提升高分位数损失分布最小化过程中的收敛速度并减少仿真预算？
• RQ2 如何有效利用低分位数信息，以指导高分位数最优设计的搜索？
• RQ3 所提出的基于协同克里金的算法是否在一般条件下实现对真实最小分位数值的几乎必然收敛？
• RQ4 分位数层级的推进对优化过程的效率和准确性有何影响？
• RQ5 在非凸、高成本仿真环境中，当标准方法因高方差和预算有限而失效时，该算法表现如何？

主要发现

• 该算法实现了对真实最优解的几乎必然收敛，即随着迭代次数增加，估计的分位数值以概率1收敛至真实的最小分位数值。
• 通过从较低分位数到较高分位数的顺序优化，与直接在目标高分位数层级进行优化相比，该方法显著减少了所需昂贵仿真运行的次数。
• 协同克里金代理模型的使用实现了精确的不确定性量化和高效的采样，尤其在预测方差较高的区域表现优异。
• 理论分析表明，最优点处的期望改进函数值始终高于一个正的下界，从而确保向最优解的持续推进。
• 在连续性分位数函数和设计空间密集采样等较弱假设下，该算法的收敛性得到保证。
• 实证结果表明，与标准仿真优化技术相比，该方法在有限仿真预算下表现出更快的收敛速度和更高的解精度。