[论文解读] Distributionally Robust Optimization: A Review

Hamed Rahimian, Sanjay Mehrotra|arXiv (Cornell University)|Aug 13, 2019

Risk and Portfolio Optimization参考文献 269被引用 332

一句话总结

对分布式鲁棒优化（DRO）的全面综述，概述其形式化、与相关概念的联系、解法、歧义集模型、标定，以及在运筹学和机器学习中的应用。

ABSTRACT

The concepts of risk-aversion, chance-constrained optimization, and robust optimization have developed significantly over the last decade. Statistical learning community has also witnessed a rapid theoretical and applied growth by relying on these concepts. A modeling framework, called distributionally robust optimization (DRO), has recently received significant attention in both the operations research and statistical learning communities. This paper surveys main concepts and contributions to DRO, and its relationships with robust optimization, risk-aversion, chance-constrained optimization, and function regularization.

研究动机与目标

• 动机：基础概率分布的不确定性以及对分布歧义的对冲需求。
• 目标：提供对DRO的整体性综述，将其与鲁棒优化、风险规避优化、机会约束和正则化联系起来。
• 目的：对歧义集合模型进行分类，讨论求解方法，并覆盖在运筹学和机器学习中的标定与应用。

提出的方法

• 给出一个通用的DRO模型，并展示其如何统一随机优化(SO)和鲁棒优化(RO)。
• 讨论求解技术，包括割平面/切面方法和对偶方法。
• 综述歧义集的构造：基于差异、基于矩、保持形状、基于核，以及通用集合。
• 解释对鲁棒性参数的标定以及数据驱动的DRO方法。
• 将DRO与博弈论、风险度量以及正则化联系起来，以阐明关系。
• 界定并区分通过歧义集合内的P的最坏期望来处理目标和约束。

实验结果

研究问题

• RQ1 如何将DRO表述为在对冲分布歧义的同时，在SO和RO之间进行插值？
• RQ2 歧义集的主要族群有哪些，它们如何影响可解性和鲁棒性？
• RQ3 DRO模型如何在算法上求解，以及割平面/对偶方法的作用？
• RQ4 歧义集合参数应如何标定，包括数据驱动方法？
• RQ5 DRO与风险度量、机会约束和正则化等相关概念之间的关系？

主要发现

• DRO通过对一族分布进行优化，提供了从随机优化到鲁棒优化的统一框架。
• 两大主要求解方法是割平面方法和用于半无限或鲁棒重构的对偶方法。
• 歧义集可以通过差异、矩、形状、核或一般规范来构建，使分布不确定性建模更灵活。
• 标定名义参数和鲁棒性水平可以是数据驱动或非数据驱动，影响保守性和性能。
• DRO与风险厌恶优化及一致性/律不变的风险度量相关，并与统计学习中的正则化相关。
• 该框架可处理连续和有限样本空间，支持样本外性能保证和渐近一致性。