[論文レビュー] Beyond Chance-Constrained Convex Mixed-Integer Optimization: A Generalized Calafiore-Campi Algorithm and the notion of $S$-optimization

Jesús A. De Loera, R. N. La Haye+2 more|arXiv (Cornell University)|Apr 1, 2015

Risk and Portfolio Optimization参考文献 29被引用数 7

ひとこと要約

この論文は、変数が $S \subset \mathbb{R}^d$ の部分集合に制限される $S$-最適化を導入することで、Calafiore-Campi のシナリオ手法を確率的制約付き凸混合整数最適化に一般化する。$N$ 個の制約に対して、高い確率で実行可能となるサンプリングバウンドを確立し、必要なサンプルサイズは $S$-Helly 数によって決定され、連続的状況から離散的および混合整数的状況へと結果を拡張する。

ABSTRACT

The scenario approach developed by Calafiore and Campi to attack chance-constrained convex programs utilizes random sampling on the uncertainty parameter to substitute the original problem with a representative continuous convex optimization with $N$ convex constraints which is a relaxation of the original. Calafiore and Campi provided an explicit estimate on the size $N$ of the sampling relaxation to yield high-likelihood feasible solutions of the chance-constrained problem. They measured the probability of the original constraints to be violated by the random optimal solution from the relaxation of size $N$. This paper has two main contributions. First, we present a generalization of the Calafiore-Campi results to both integer and mixed-integer variables. In fact, we demonstrate that their sampling estimates work naturally for variables restricted to some subset $S$ of $\mathbb R^d$. The key elements are generalizations of Helly's theorem where the convex sets are required to intersect $S \subset \mathbb R^d$. The size of samples in both algorithms will be directly determined by the $S$-Helly numbers. Motivated by the first half of the paper, for any subset $S \subset \mathbb R^d$, we introduce the notion of an $S$-optimization problem, where the variables take on values over $S$. It generalizes continuous, integer, and mixed-integer optimization. We illustrate with examples the expressive power of $S$-optimization to capture sophisticated combinatorial optimization problems with difficult modular constraints. We reinforce the evidence that $S$-optimization is "the right concept" by showing that the well-known randomized sampling algorithm of K. Clarkson for low-dimensional convex optimization problems can be extended to work with variables taking values over $S$.

研究の動機と目的

• 連続的最適化から混合整数最適化および一般の $S$-制限付き変数最適化問題へ、Calafiore-Campi のシナリオ手法を拡張すること。
• $S$-最適化の概念を定義・形式化し、連続的、整数的、混合整数的プログラミングの一般化として位置づけること。
• 確率的制約下で、変数が $S \subset \mathbb{R}^d$ に制限される場合でも、高い確率で実行可能となる解を保証するサンプリングバウンドを確立すること。
• Clarkson のランダム化サンプリングアルゴリズムが、$S$-制限付き変数に拡張可能であることを示し、$S$-Helly 数を主要パrameterとして用いること。

提案手法

• 意思決定変数が部分集合 $S \subset \mathbb{R}^d$ に制限される $S$-最適化を導入し、連続的（$S = \mathbb{R}^d$）、整数的（$S = \mathbb{Z}^d$）、混合整数的（$S = \mathbb{R}^{k} \times \mathbb{Z}^{d-k}$）の場合を一般化する。
• $S$-Helly 数 $h(S)$ を定義し、これは任意の $h(S)$ 個の $S$ と交差する凸集合の族が、$S$ 内に共通の点を持つ最小の整数として定義される。これは Helly の定理を一般化する。
• $S$-Helly 数を用いて、シナリオ緩和における明示的なサンプルサイズバウンド $N$ を導出し、元の確率的制約に違反する確率が $\epsilon$ 以下である確率が $1 - \delta$ 以上となるように保証する。
• 違反空間理論を用いて、$S$-最適化のためのランダム化アルゴリズムを設計し、組合せ次元を $h(S) - 1$ とすることで、小さな部分問題へのオракルクエリにより効率的に解けるようにする。
• ランダム化サンプリング戦略を採用：不確実性パラメータ $w$ に対して $N$ 個の i.i.d. サンプルを抽出し、それらに基づく $N$ 個の制約を持つ決定的 $S$-凸最適化問題を解く。
• サイズ $O(h(S))$ の小さな $S$-凸部分問題を解くオラクルに依存し、$h(S)$ が有界であれば、期待計算量が多項式時間で実現可能となる。

実験結果

リサーチクエスチョン

• RQ1 Calafiore-Campi のシナリオ手法は、連続的変数を越えて、混合整数的およびその他の構造的変数集合へ一般化可能か？
• RQ2 部分集合 $S \subset \mathbb{R}^d$ と交差する凸集合に対して、Helly の定理の適切な一般化は何か？
• RQ3 シナリオ近似のための必要なサンプルサイズ $N$ は、$S$ の構造にどのように依存するか？
• RQ4 Clarkson のランダム化アルゴリズムは、$S$-Helly 数を主要パrameterとして用いる $S$-最適化問題へ拡張可能か？
• RQ5 $S$-Helly 数は、サンプリングベースのアルゴリズムの複雑さと実行可能性保証を決定づける役割を果たすか？

主な発見

• 確率的制約付き $S$-最適化問題に対する $\delta$-近似解を得るための必要なサンプルサイズ $N$ は、$N \geq \frac{2(2^{d-k}(k+1)-1)}{\epsilon}\ln(1/\epsilon) + \frac{2}{\epsilon}\ln(1/\delta) + 2(2^{d-k}(k+1)-1)$ でバウンドされ、ここで $d-k$ は整数変数の数である。
• サンプル問題の解が元の確率的制約を $\epsilon$ 以上に違反する確率は $\delta$ より小さいため、高い信頼性で実行可能であることが保証される。
• $S$-Helly 数 $h(S)$ は、違反空間の組合せ次元を決定し、ランダム化アルゴリズムの複雑さを支配する。
• 整数変数の数が固定されている場合、ランダム化アルゴリズムは期待多項式時間で実行可能であり、制約数に対して線形時間の複雑さを示す。
• アルゴリズムは、サイズ $O(h(S))$ の小さな $S$-凸部分問題を解くオラクルに依存しており、$S = \mathbb{R}^d$、$S = \mathbb{Z}^d$、$S = \mathbb{R}^k \times \mathbb{Z}^{d-k}$ の場合にそのようなオラクルが存在する。
• このフレームワークは、既存の結果を統合・一般化する：$S = \mathbb{R}^d$ の場合、元の Calafiore-Campi のバウンドが回復される。$S = \mathbb{Z}^d$ の場合、整数確率的制約付き問題に対する新しいバウンドが得られる。