[论文解读] Limit Laws for Empirical Optimal Solutions in Stochastic Linear Programs

Marcel Klatt, Axel Munk+1 more|arXiv (Cornell University)|Jul 27, 2020

Risk and Portfolio Optimization参考文献 41被引用 6

一句话总结

该论文为随机线性规划中右端向量随机扰动时的经验最优解建立了极限定理。通过基的组合分析与对偶性，推导出经验最优解的中心极限型定理，表明其渐近分布依赖于对偶问题的退化性，并由对偶最优解集所表征。

ABSTRACT

We consider a general linear program in standard form whose right-hand side constraint vector is subject to random perturbations. This defines a stochastic linear program for which, under general conditions, we characterize the fluctuations of the corresponding empirical optimal solution by a central limit-type theorem. Our approach relies on the combinatorial nature and the concept of degeneracy inherent in linear programming, in strong contrast to well-known results for smooth stochastic optimization programs. In particular, if the corresponding dual linear program is degenerate the asymptotic limit law might not be unique and is determined from the way the empirical optimal solution is chosen. Furthermore, we establish consistency and convergence rates of the Hausdorff distance between the empirical and the true optimality sets. As a consequence, we deduce a limit law for the empirical optimal value characterized by the set of all dual optimal solutions which turns out to be a simple consequence of our general proof techniques. Our analysis is motivated from recent findings in statistical optimal transport that will be of special focus here. In addition to the asymptotic limit laws for optimal transport solutions, we obtain results linking degeneracy of the dual transport problem to geometric properties of the underlying ground space, and prove almost sure uniqueness statements that may be of independent interest.

研究动机与目标

• 刻画从数据中估计右端向量时，随机线性规划中经验最优解的渐近波动。
• 通过利用对偶问题的组合结构与退化性，弥补线性规划中缺乏正则性（与光滑随机优化不同）的不足。
• 建立经验最优解集与真实最优解集之间 Hausdorff 距离的一致性与收敛速率。
• 推导经验最优值的极限定律，表明其由对偶最优解集所决定。
• 将该框架应用于最优传输问题，将对偶退化性与基底空间的几何性质相联系，并证明几乎必然唯一性结果。

提出的方法

• 通过研究右端向量 $ b $ 的小扰动下活动基的变化，分析经验最优解 $ x^\bullet(b_n) $ 的随机行为。
• 利用对偶线性规划 $ (D_b) $ 识别同时为原问题与对偶问题提供最优解的基，这些基控制着渐近行为。
• 对经验最优解应用中心极限型定理，其中极限定律依赖于对偶最优解集的结构及潜在的退化性。
• 运用连续映射定理，将极限定律扩展至最优解的泛函，如最优传输曲线 $ OTC $、耦合矩阵的迹以及测地线插值。
• 通过映射的线性性与连续性，表征 Banach 空间（如 $ \mathcal{B} $、$ \mathcal{C} $）中函数值泛函的极限分布。
• 在问题数据满足正则性条件时，建立经验最优解集与真实最优解集之间 Hausdorff 距离的收敛速率。

实验结果

研究问题

• RQ1 当右端向量从数据中估计时，随机线性规划中经验最优解的渐近波动行为如何？
• RQ2 对偶退化性在决定经验最优解渐近分布中起什么作用？
• RQ3 经验最优值的极限定律如何与对偶最优解集相关联？
• RQ4 极限定律能否扩展至最优解的函数值泛函（如最优传输曲线或测地线插值）？
• RQ5 在最优传输背景下，何种几何或概率条件可保证最优解的几乎必然唯一性？

主要发现

• 经验最优解的渐近分布由一个依赖于基的组合结构及对偶问题退化性的中心极限型定理表征。
• 当对偶问题退化时，极限定律不唯一，且依赖于用于解析经验解中 tie 的特定选择规则。
• 经验最优解集与真实最优解集之间 Hausdorff 距离以速率 $ \sqrt{\frac{nm}{n+m}} $ 收敛，在一般条件下可建立一致性。
• 经验最优值的极限定律由所有对偶最优解构成的集合所决定，这是证明框架的直接结果。
• 对于最优传输泛函（如最优传输曲线 $ OTC $、耦合矩阵的迹、测地线插值），极限定律通过连续映射定理推导得出，且服从高斯分布。
• 在将对偶退化性与基底空间几何性质相联系的条件下，可建立最优传输解的几乎必然唯一性。