[論文レビュー] Risk-Adaptive Approaches to Stochastic Optimization: A Survey

Johannes Ø. Røyset|arXiv (Cornell University)|Dec 1, 2022

Risk and Portfolio Optimization被引用数 4

ひとこと要約

本調査は、凸解析に基づくリスク測度に根ざした、確率的最適化におけるリスク適応的アプローチの包括的概要を提示する。工学、機械学習、ファイナンス分野における多様な応用を統合し、リスク回避意思決定、ロバスト最適化、分布ロバストフレームワークを統合的に扱う。主な貢献は、理論的基盤、アルゴリズム、および公平な機械学習や信頼性測度を含む新興分野への応用に及ぶ。

ABSTRACT

Uncertainty is prevalent in engineering design, data-driven problems, and decision making broadly. Due to inherent risk-averseness and ambiguity about assumptions, it is common to address uncertainty by formulating and solving conservative optimization models expressed using measures of risk and related concepts. We survey the rapid development of risk measures over the last quarter century. From their beginning in financial engineering, we recount the spread to nearly all areas of engineering and applied mathematics. Solidly rooted in convex analysis, risk measures furnish a general framework for handling uncertainty with significant computational and theoretical advantages. We describe the key facts, list several concrete algorithms, and provide an extensive list of references for further reading. The survey recalls connections with utility theory and distributionally robust optimization, points to emerging applications areas such as fair machine learning, and defines measures of reliability.

研究の動機と目的

• 過去25年間における確率的最適化におけるリスク測度の発展を統一的かつ体系的に整理すること。
• 工学、統計学、機械学習における不確実性下でのリスク回避意思決定のための理論的かつ計算的フレームワークを提供すること。
• リスク測度をユーティリティ理論、分布ロバスト最適化、および公平性の機械学習など新興分野と結びつけること。
• 動的で多段階的、部分的に観測可能な最適化におけるリスク下での未解決問題と課題を特定すること。
• 信頼性の測定を伝統的な故障確率の代替として導入・形式化すること。

提案手法

• 凸解析を用いて、スーパークォンタイル（条件付きリスク価値）や分散測度を含むリスク測度を、保守的最適化のコアツールとして形式化する。
• リスクエンvelopeと双対性理論を導入し、双対アルゴリズムを導出し、リスク測度と分布ロバスト最適化を結びつける。
• 意思決定の性能を不確実性下でモデル化するため、レグルトと誤差測度を統合し、回帰や機械学習への応用を実施する。
• 法不変かつ一貫性のあるリスク測度を用いてリスク回避最適化問題を定式化し、分布の不確実性に対してロバスト性を確保する。
• 凸共役と部分勾配法を活用して、スーパークォンタイルの最小化および推定のためのアルゴリズムを提案する。
• フレームワークを動的かつ多段階的設定に拡張し、リスク回避実験設計およびサーロゲートモデリングについて議論する。

実験結果

リサーチクエスチョン

• RQ1 リスク測度をどのように体系的に統合することで、工学、統計学、ファイナンス分野におけるロバスト最適化と確率的最適化を統一できるか？
• RQ2 スーパークォンタイルとリスクエンvelopeを最適化における不確実性下で使用する際の理論的・計算的利点は何か？
• RQ3 リスク回避の定式化は、機械学習および意思決定システムにおける公平性と信頼性をどのように向上させることができるか？
• RQ4 リスク測度はどのようにしてユーティリティ理論や分布ロバスト最適化と結びつくか？
• RQ5 動的で多段階的かつ部分的に観測可能な意思決定プロセスへのリスク適応的手法の拡張において、未解決の課題は何か？

主な発見

• 特にスーパークォンタイルと条件付きリスク価値を用いるリスク測度は、不確実性下での保守的意思決定に対して、強固で計算的に扱いやすいフレームワークを提供する。
• リスク測度の双対性理論により、リスクエンvelopeと部分勾配法を介した効率的アルゴリズムが可能となり、分布ロバスト最適化と結びつく。
• 回帰や機械学習におけるリスク測度の統合により、予測モデルの性能追跡と公平性の向上が可能になる。
• 信頼性の測定が、特に安全が求められるシステムにおいて、伝統的な故障確率の代替として提案される。
• フレームワークは、リスク回避実験設計およびサーロゲートモデリングをサポートし、重要な応答変数の低評価を低減する可能性を有する。
• 進展は見られるが、ベイジアンリスク回避最適化や意思決定依存確率測度は依然として未発展であり、重要な未解決課題を示している。