[论文解读] Distributionally Robust Stochastic Optimization with Dependence Structure

Rui Gao, Anton J. Kleywegt|arXiv (Cornell University)|Jan 16, 2017

Risk and Portfolio Optimization参考文献 25被引用 31

一句话总结

本文提出了分布鲁棒随机优化（DRSO）框架，显式地将依赖结构——线性相关性和等级相关性——纳入模糊集，从而提升模型的样本外性能。通过结合Wasserstein距离与矩约束或基于Copula的约束，作者推导出可计算的对偶重述形式，在数值实验中优于传统的基于矩的DRSO和仅使用Wasserstein距离的DRSO方法。

ABSTRACT

Distributionally robust stochastic optimization (DRSO) is a framework for decision-making problems under certainty, which finds solutions that perform well for a chosen set of probability distributions. Many different approaches for specifying a set of distributions have been proposed. The choice matters, because it affects the results, and the relative performance of different choices depend on the characteristics of the problems. In this paper, we consider problems in which different random variables exhibit some form of dependence, but the exact values of the parameters that represent the dependence are not known. We consider various sets of distributions that incorporate the dependence structure, and we study the corresponding DRSO problems. In the first part of the paper, we consider problems with linear dependence between random variables. We consider sets of distributions that are within a specified Wasserstein distance of a nominal distribution, and that satisfy a second-order moment constraint. We obtain a tractable dual reformulation of the corresponding DRSO problem. This approach is compared with the traditional moment-based DRSO and Wasserstein-based DRSO with no moment constraints. Numerical experiments suggest that our new formulation has superior out-of-sample performance. In the second part of the paper, we consider problems with various types of rank dependence between random variables, including rank dependence measured by Spearman's footrule distance between empirical rankings, comonotonic distributions, box uncertainty for individual observations, and Wasserstein distance between copulas associated with continuous distributions. We also obtain a dual reformulation of the DRSO problem. A desirable byproduct of the formulation is that it also avoids an issue associated with the one-sided moment constraints in moment-based DRSO problems.

研究动机与目标

• 为解决传统DRSO方法忽略随机变量之间依赖结构的问题，即使已知或怀疑存在此类依赖关系。
• 开发一类新型DRSO公式，显式在模糊集中建模线性相关性和等级相关性（例如通过Copula）。
• 推导这些新型DRSO问题的可计算对偶重述形式，以实现高效计算，尤其适用于数据驱动场景。
• 证明引入依赖结构可显著提升DRSO解的样本外性能，优于标准的基于矩或仅基于Wasserstein距离的DRSO方法。
• 解决基于矩的DRSO中存在的问题，例如单边矩约束可能导致解过于保守。

提出的方法

• 通过将名义分布的Wasserstein距离约束与二阶矩约束相结合，构建线性相关性DRSO（Linear-CRSO）模型，以显式建模线性依赖。
• 利用凸对偶理论，推导出Linear-CRSO问题的强对偶重述形式，使其可通过半定规划高效求解。
• 提出Rank-CRSO方法，通过基于Copula的模糊集建模等级依赖，包括Copula之间的Wasserstein距离及其他等级距离度量（如Spearman的脚跟法则）。
• 将相同的对偶框架应用于Rank-CRSO，得到在Copula的∞-Wasserstein距离下的可计算对偶形式。
• 利用经验数据定义名义分布，并构建模糊集，以保留已知的依赖模式，同时对分布偏移保持鲁棒性。
• 采用凸优化技术，包括Schur补和锥规划中的对偶性，将极大极小鲁棒优化问题转化为可解的原始形式。

实验结果

研究问题

• RQ1 如何有效将线性相关性或等级相关性等依赖结构纳入分布鲁棒随机优化中？
• RQ2 与标准的基于矩或基于Wasserstein距离的方法相比，引入依赖结构对DRSO解的样本外性能有何影响？
• RQ3 能否为同时包含Wasserstein距离与依赖约束的DRSO问题推导出可计算的对偶重述形式？
• RQ4 所提出的公式是否能避免传统基于矩的DRSO中因单边矩约束导致的过度保守性？
• RQ5 不同依赖度量（如Copula之间的Wasserstein距离）在捕捉多元分布真实依赖结构方面表现如何？

主要发现

• 所提出的Linear-CRSO公式，结合Wasserstein距离与二阶矩约束，在数值实验中展现出优于基于矩或仅使用Wasserstein距离的DRSO的样本外性能。
• Linear-CRSO的对偶重述形式具有可计算性，可通过半定规划高效求解，具备实际应用潜力。
• 基于Copula的∞-Wasserstein距离的Rank-CRSO可导出可计算的对偶形式，证明了该方法在不同依赖度量下的灵活性。
• Copula之间的Wasserstein距离能有效捕捉等级相关性，例如在双变量正态分布中，该度量正确反映了随相关性增加而增强的共单调性。
• 数值结果表明，所提公式避免了传统基于矩的DRSO中因单边矩约束导致的过度保守性，从而提升了决策质量。
• 在双变量正态分布相关性逐步增加的案例中，仅Copula之间的Wasserstein距离能正确反映依赖性增强的直观认知，验证了基于Copula的度量选择的合理性。