[论文解读] Risk-Adaptive Approaches to Stochastic Optimization: A Survey

Johannes Ø. Røyset|arXiv (Cornell University)|Dec 1, 2022

Risk and Portfolio Optimization被引用 4

一句话总结

本综述全面概述了随机优化中的风险自适应方法，强调基于凸分析的风险度量。通过整合风险规避决策、鲁棒优化和分布式鲁棒框架，统一了工程、机器学习和金融等领域的多样化应用，其主要贡献体现在理论基础、算法设计以及公平机器学习和可靠性度量等新兴应用方面。

ABSTRACT

Uncertainty is prevalent in engineering design, data-driven problems, and decision making broadly. Due to inherent risk-averseness and ambiguity about assumptions, it is common to address uncertainty by formulating and solving conservative optimization models expressed using measures of risk and related concepts. We survey the rapid development of risk measures over the last quarter century. From their beginning in financial engineering, we recount the spread to nearly all areas of engineering and applied mathematics. Solidly rooted in convex analysis, risk measures furnish a general framework for handling uncertainty with significant computational and theoretical advantages. We describe the key facts, list several concrete algorithms, and provide an extensive list of references for further reading. The survey recalls connections with utility theory and distributionally robust optimization, points to emerging applications areas such as fair machine learning, and defines measures of reliability.

研究动机与目标

• 统一并系统化过去25年中随机优化领域内风险度量的发展。
• 为工程、统计学和机器学习中不确定性下的风险规避决策提供理论与计算框架。
• 将风险度量与效用理论、分布式鲁棒优化以及公平性等新兴领域（如机器学习中的公平性）相联系。
• 识别在动态、多阶段及部分可观测的优化问题中，风险自适应方法面临的开放问题与挑战。
• 提出并形式化可靠性度量作为传统失效概率的替代方案。

提出的方法

• 本文采用凸分析形式化风险度量，包括超分位数（条件风险价值）和离差度量，作为保守优化的核心工具。
• 引入风险包络与对偶理论，推导对偶算法，并将风险度量与分布式鲁棒优化相联系。
• 框架中纳入后悔度量与误差度量，以建模不确定性下的决策性能，应用于回归与机器学习。
• 采用分布不变性和一致风险度量形式化风险规避优化问题，实现对分布模糊性的鲁棒性。
• 提出用于超分位数最小化与估计的算法，利用凸共轭与次梯度方法。
• 将框架扩展至动态与多阶段设置，并讨论风险规避的实验设计与代理建模。

实验结果

研究问题

• RQ1 如何系统性地应用风险度量，以统一工程、统计学和金融领域中鲁棒优化与随机优化？
• RQ2 在不确定性优化中，使用超分位数与风险包络具有哪些理论与计算优势？
• RQ3 风险规避公式如何提升机器学习与决策系统中的公平性与可靠性？
• RQ4 风险度量如何与效用理论及分布式鲁棒优化相联系？
• RQ5 将风险自适应方法扩展至动态、多阶段及部分可观测决策过程时，面临哪些开放挑战？

主要发现

• 风险度量，尤其是超分位数与条件风险价值，为不确定性下的保守决策提供了稳健且计算上可行的框架。
• 风险度量的对偶理论通过风险包络与次梯度方法实现了高效算法，同时与分布式鲁棒优化建立了联系。
• 将风险度量与回归及机器学习相结合，可提升预测模型的性能追踪能力与公平性。
• 提出了可靠性度量作为传统失效概率的替代方案，尤其适用于关键安全系统。
• 该框架支持风险规避的实验设计与代理建模，有望减少对关键响应变量的低估。
• 尽管已有进展，贝叶斯风险规避优化与依赖决策的概率度量仍研究不足，凸显了关键开放挑战。