[论文解读] Minimization of a Class of Rare Event Probabilities and Buffer Probabilities of Exceedance

Amarjit Budhiraja, Shu Lü+2 more|arXiv (Cornell University)|Feb 21, 2019

Risk and Portfolio Optimization参考文献 23被引用 3

一句话总结

本文针对具有独立同分布输入的随机系统，提出了渐近高效的重要性采样方案，用于最小化罕见事件概率和缓冲超出概率。通过利用大偏差理论并求解Isaacs方程，构建了可计算的采样测度，使高维环境下小概率的准确估计成为可能，其应用涵盖基于凸优化的罕见事件最小化。

ABSTRACT

We consider the problem of choosing design parameters to minimize the probability of an undesired rare event that is described through the average of $n$ iid random variables. Since the probability of interest for near optimal design parameters is very small, one needs to develop suitable accelerated Monte-Carlo methods for estimating the objective function of interest. One of the challenges in the study is that simulating from exponential twists of the laws of the summands may be computationally demanding since these transformed laws may be non-standard and intractable. We consider a setting where the summands are given as a nonlinear functional of random variables that are more tractable for importance sampling in that the exponential twists of their distributions take a simpler form (than that for the original summands). We also study the closely related problem of estimating buffered probability of exceedance and provide the first rigorous results that relate the asymptotics of buffered probability and that of the ordinary probability under a large deviation scaling. The analogous minimization problem for buffered probability, under conditions, can be formulated as a convex optimization problem which makes it more tractable than the original optimization problem. We show that, under conditions, changes of measures that are asymptotically efficient (under the large deviation scaling) for estimating ordinary probability are also asymptotically efficient for estimating the buffered probability of exceedance. We embed the constructed importance sampling scheme in suitable gradient descent/ascent algorithms for solving the optimization problems of interest. Implementation of schemes for some examples is illustrated through computational experiments.

研究动机与目标

• 为了最小化由独立同分布随机变量平均值建模的系统中罕见事件的概率，特别是当这些概率小到无法通过标准蒙特卡洛估计时。
• 通过构建在大偏差尺度下渐近高效的重要性采样方案，解决罕见事件模拟的计算挑战。
• 将框架扩展至缓冲超出概率，作为标准尾部概率的稳健替代，证明其最小化可转化为凸优化问题。
• 将所构建的重要性采样估计器嵌入梯度下降算法中，以求解相应的随机优化问题。
• 为标准与缓冲超出概率的重要性采样提供严格的渐近效率理论保证。

提出的方法

• 利用大偏差理论识别罕见事件估计中最佳测度变换，重点在于对基础求和项进行指数扭曲。
• 通过将求和项建模为更易处理的随机变量的非线性函数，对原问题进行变换，从而实现对变换后变量的简化指数扭曲。
• 求解由Dupuis和Wang（2004,2007）导出的相关Isaacs方程，构造下解，从而获得渐近高效的重要性采样测度。
• 将重要性采样估计器应用于随机优化中目标函数的估计，通过大偏差界控制估计器的方差。
• 沿确定性轨迹进行测度变换的路径式构造，时间依赖的控制量由Isaacs方程的解导出。
• 将重要性采样估计器嵌入梯度下降/上升算法中，以求解最小化问题，即使在罕见事件设定下也能保证收敛。

实验结果

研究问题

• RQ1 当基础求和项为独立同分布随机变量的非线性函数时，如何构建用于估计罕见事件概率的渐近高效重要性采样方案？
• RQ2 在大偏差尺度下，缓冲超出概率的渐近行为与标准罕见事件概率之间有何关系？
• RQ3 缓冲超出概率的最小化能否表述为凸优化问题？若能，相较于标准罕见事件最小化，其计算可处理性有何提升？
• RQ4 在标准罕见事件估计中渐近高效的重要性采样方案，是否同样适用于缓冲超出概率的估计？
• RQ5 如何将所构建的重要性采样方案有效整合到罕见事件最小化的随机优化算法中？

主要发现

• 所提出的 importance sampling 方案在大偏差尺度下对罕见事件概率估计具有渐近效率，其证明基于Isaacs方程的求解。
• 证明了缓冲超出概率与标准概率具有相同的大偏差渐近行为，建立了两者之间的严格理论联系。
• 在适当条件下，缓冲超出概率的最小化可转化为凸优化问题，显著提升了计算可处理性。
• 在较弱正则性条件下，对标准罕见事件估计渐近高效的 importance sampling 方案，对缓冲超出概率估计同样具有渐近效率。
• 目标函数的重要性采样估计器的方差呈指数衰减，衰减速率下界由最优控制问题解的值决定。
• 计算实验表明，该方法在实际场景中有效，结合梯度下降时展现出稳定的收敛性。