[论文解读] Beyond Chance-Constrained Convex Mixed-Integer Optimization: A Generalized Calafiore-Campi Algorithm and the notion of $S$-optimization

Jesús A. De Loera, R. N. La Haye+2 more|arXiv (Cornell University)|Apr 1, 2015

Risk and Portfolio Optimization参考文献 29被引用 7

一句话总结

本文通过引入 $S$-优化，将 Calafiore-Campi 的场景方法推广至机会约束的凸混合整数优化问题，其中变量被限制在 $S \subset \mathbb{R}^d$ 的子集内。该研究建立了保证高概率可行性的 $N$ 个约束的采样边界，所需样本量由 $S$-Helly 数决定，从而将先前在连续变量下的结果扩展至离散和混合整数设置。

ABSTRACT

The scenario approach developed by Calafiore and Campi to attack chance-constrained convex programs utilizes random sampling on the uncertainty parameter to substitute the original problem with a representative continuous convex optimization with $N$ convex constraints which is a relaxation of the original. Calafiore and Campi provided an explicit estimate on the size $N$ of the sampling relaxation to yield high-likelihood feasible solutions of the chance-constrained problem. They measured the probability of the original constraints to be violated by the random optimal solution from the relaxation of size $N$. This paper has two main contributions. First, we present a generalization of the Calafiore-Campi results to both integer and mixed-integer variables. In fact, we demonstrate that their sampling estimates work naturally for variables restricted to some subset $S$ of $\mathbb R^d$. The key elements are generalizations of Helly's theorem where the convex sets are required to intersect $S \subset \mathbb R^d$. The size of samples in both algorithms will be directly determined by the $S$-Helly numbers. Motivated by the first half of the paper, for any subset $S \subset \mathbb R^d$, we introduce the notion of an $S$-optimization problem, where the variables take on values over $S$. It generalizes continuous, integer, and mixed-integer optimization. We illustrate with examples the expressive power of $S$-optimization to capture sophisticated combinatorial optimization problems with difficult modular constraints. We reinforce the evidence that $S$-optimization is "the right concept" by showing that the well-known randomized sampling algorithm of K. Clarkson for low-dimensional convex optimization problems can be extended to work with variables taking values over $S$.

研究动机与目标

• 将 Calafiore-Campi 的场景方法从连续变量推广至混合整数及一般 $S$-受限变量优化问题。
• 定义并形式化 $S$-优化的概念，作为连续、整数及混合整数规划的推广。
• 建立采样边界，以确保在变量受限于 $S \subset \mathbb{R}^d$ 的情况下，解具有高概率可行性，即使在机会约束下。
• 证明 Clarkson 的随机采样算法可扩展至 $S$-受限变量，其中 $S$-Helly 数作为关键参数。

提出的方法

• 引入 $S$-优化，其中决策变量被限制在子集 $S \subset \mathbb{R}^d$ 内，推广了连续（$S = \mathbb{R}^d$）、整数（$S = \mathbb{Z}^d$）和混合整数（$S = \mathbb{R}^{k} \times \mathbb{Z}^{d-k}$）的情形。
• 将 $S$-Helly 数 $h(S)$ 定义为最小整数，使得任意一组 $h(S)$ 个与 $S$ 相交的凸集，其交集在 $S$ 中有公共点，从而推广 Helly 定理。
• 利用 $S$-Helly 数推导出场景松弛的显式样本量边界 $N$，确保违反原始机会约束的概率至多为 $\epsilon$，置信度为 $1 - \delta$。
• 应用违反者空间理论设计 $S$-优化的随机算法，其中组合维度为 $h(S) - 1$，通过小规模子问题的预言机查询实现高效求解。
• 采用随机采样策略：独立同分布地抽取 $N$ 个不确定性参数 $w$ 的样本，然后求解具有 $N$ 个约束的确定性 $S$-凸优化问题。
• 依赖于一个预言机，可求解大小为 $O(h(S))$ 的小规模 $S$-凸子问题，当 $h(S)$ 有界时，可实现期望多项式时间复杂度。

实验结果

研究问题

• RQ1 Calafiore-Campi 的场景方法能否超越连续变量，推广至混合整数及其他结构化变量集合？
• RQ2 对于与子集 $S \subset \mathbb{R}^d$ 相交的凸集，Helly 定理的适当推广是什么？
• RQ3 场景近似所需的样本量 $N$ 如何依赖于 $S$ 的结构？
• RQ4 Clarkson 的随机算法能否扩展至以 $S$-Helly 数为关键参数的 $S$-优化问题？
• RQ5 $S$-Helly 数在决定采样算法的复杂度与可行性保证中的作用是什么？

主要发现

• 对于机会约束的 $S$-优化问题，获得 $\delta$-近似解所需的样本量 $N$ 满足不等式 $N \geq \frac{2(2^{d-k}(k+1)-1)}{\epsilon}\ln(1/\epsilon) + \frac{2}{\epsilon}\ln(1/\delta) + 2(2^{d-k}(k+1)-1)$，其中 $d-k$ 为整数变量的数量。
• 采样问题解违反原始机会约束超过 $\epsilon$ 的概率小于 $\delta$，从而确保高置信度可行性。
• $S$-Helly 数 $h(S)$ 决定了违反者空间的组合维度，进而控制随机算法的复杂度。
• 当离散变量数量固定时，该随机算法可在期望多项式时间内运行，且时间复杂度与约束数量呈线性关系。
• 该算法依赖于一个可求解大小为 $O(h(S))$ 的小规模 $S$-凸子问题的预言机，且当 $S = \mathbb{R}^d$、$S = \mathbb{Z}^d$ 和 $S = \mathbb{R}^k \times \mathbb{Z}^{d-k}$ 时，此类预言机均存在。
• 该框架统一并推广了现有结果：当 $S = \mathbb{R}^d$ 时，恢复了原始 Calafiore-Campi 的边界；当 $S = \mathbb{Z}^d$ 时，为整数机会约束问题提供了新边界。