[论文解读] A Unified Theory of Robust and Distributionally Robust Optimization via the Primal-Worst-Equals-Dual-Best Principle

Jianzhe Zhen, Daniel Kühn+1 more|arXiv (Cornell University)|May 3, 2021

Risk and Portfolio Optimization参考文献 18被引用 7

一句话总结

本文提出了一种统一的凸分析框架，用于鲁棒优化与分布鲁棒优化，基于广义的“原始最差等于对偶最好”原则，实现了复杂问题的有限维凸重写。该框架建立了半无限最差情况与非凸最好情况公式之间的强对偶性，使具有通用最优传输模糊集的分布鲁棒问题得以实现可计算求解。

ABSTRACT

Robust and distributionally robust optimization are modeling paradigms for decision-making under uncertainty where the uncertain parameters are only known to reside in an uncertainty set or are governed by any probability distribution from within an ambiguity set, respectively, and a decision is sought that minimizes a cost function under the most adverse outcome of the uncertainty. In this paper, we develop a rigorous and general theory of robust and distributionally robust nonlinear optimization using the language of convex analysis. Our framework is based on a generalized `primal-worst-equals-dual-best' principle that establishes strong duality between a semi-infinite primal worst and a non-convex dual best formulation, both of which admit finite convex reformulations. This principle offers an alternative formulation for robust optimization problems that obviates the need to mobilize the machinery of abstract semi-infinite duality theory to prove strong duality in distributionally robust optimization. We illustrate the modeling power of our approach through convex reformulations for distributionally robust optimization problems whose ambiguity sets are defined through general optimal transport distances, which generalize earlier results for Wasserstein ambiguity sets.

研究动机与目标

• 开发一种通用的、基于凸分析的鲁棒与分布鲁棒优化理论，超越锥或结构化问题类别。
• 解决以往鲁棒优化推广中常被忽视的数学细节，特别是关于对偶性与约束资格条件的问题。
• 在任意凸函数与模糊集下，统一鲁棒与分布鲁棒优化，基于单一的对偶性原理。
• 为分布鲁棒优化提供易于验证的强对偶性条件，无需依赖抽象的半无限对偶理论。
• 实现基于一般最优传输模糊集的分布鲁棒问题的凸重写，包括支持或运输成本的结构性约束。

提出的方法

• 提出广义的“原始最差等于对偶最好”原则，建立半无限原始最差问题与非凸对偶最好公式之间的强对偶性。
• 利用共轭函数与凸分析，推导出具有隐式约束或共轭函数的一般凸优化问题的显式对偶问题。
• 将对偶性原理应用于将鲁棒与分布鲁棒问题重写为有限维凸规划。
• 采用运输成本函数的首次部分共轭，推导出基于最优传输模糊集的凸重写。
• 建立在运输成本超线性增长条件下，不确定性量化问题（OT）的可解性条件。
• 证明该框架可通过定制的运输成本函数建模结构性分布信息，如惩罚低概率区域或建模各向同性噪声。

实验结果

研究问题

• RQ1 能否为鲁棒与分布鲁棒优化建立一个统一的对偶性原理，适用于一般凸函数与模糊集？
• RQ2 如何在不依赖抽象半无限对偶理论或矩条件的前提下，证明分布鲁棒优化中的强对偶性？
• RQ3 在具有通用最优传输模糊集的分布鲁棒问题中，确保有限维凸重写的条件是什么？
• RQ4 如何设计运输成本函数以编码结构性分布信息，如支持约束或噪声模型？
• RQ5 所提出的框架能否统一处理非线性目标/约束函数与锥不等式？

主要发现

• 广义的“原始最差等于对偶最好”原则实现了半无限原始最差问题与非凸对偶最好公式之间的强对偶性。
• 原始最差问题与对偶最好问题均可实现有限维凸重写，从而可通过标准凸优化技术实现可计算求解。
• 该框架通过有限维凸分析提供了分布鲁棒优化中强对偶性的易于验证条件，避免了对抽象矩条件的依赖。
• 推导出具有通用最优传输模糊集（包括超线性运输成本）的分布鲁棒问题的凸重写。
• 该方法可通过定制的运输成本函数建模结构性分布信息，如惩罚低概率区域或建模各向同性噪声。
• 在运输成本超线性增长且存在 Slater 点、对偶最大化器满足预算约束的前提下，不确定性量化问题（OT）被证明是可解的。