[논문 리뷰] Beyond Chance-Constrained Convex Mixed-Integer Optimization: A Generalized Calafiore-Campi Algorithm and the notion of $S$-optimization

Jesús A. De Loera, R. N. La Haye외 2명|arXiv (Cornell University)|2015. 04. 01.

Risk and Portfolio Optimization참고 문헌 29인용 수 7

한 줄 요약

이 논문은 $S$-최적화를 도입하여 캘라피오-캄피 시나리오 접근법을 확률적 제약 조건이 있는 복수의 혼합 정수 최적화 문제로 일반화한다. 여기서 변수는 $\mathbb{R}^d$의 부분집합인 $S$로 제한된다. $N$개의 제약 조건에 대해 높은 확률로 타당성을 보장하는 표본 크기의 경계를 설정하며, 필요한 표본 크기는 $S$-헬리 수($S$-Helly number)에 의해 결정된다. 이는 이전 결과를 연속적인 경우에서 이산적이고 혼합 정수적인 경우로 확장한다.

ABSTRACT

The scenario approach developed by Calafiore and Campi to attack chance-constrained convex programs utilizes random sampling on the uncertainty parameter to substitute the original problem with a representative continuous convex optimization with $N$ convex constraints which is a relaxation of the original. Calafiore and Campi provided an explicit estimate on the size $N$ of the sampling relaxation to yield high-likelihood feasible solutions of the chance-constrained problem. They measured the probability of the original constraints to be violated by the random optimal solution from the relaxation of size $N$. This paper has two main contributions. First, we present a generalization of the Calafiore-Campi results to both integer and mixed-integer variables. In fact, we demonstrate that their sampling estimates work naturally for variables restricted to some subset $S$ of $\mathbb R^d$. The key elements are generalizations of Helly's theorem where the convex sets are required to intersect $S \subset \mathbb R^d$. The size of samples in both algorithms will be directly determined by the $S$-Helly numbers. Motivated by the first half of the paper, for any subset $S \subset \mathbb R^d$, we introduce the notion of an $S$-optimization problem, where the variables take on values over $S$. It generalizes continuous, integer, and mixed-integer optimization. We illustrate with examples the expressive power of $S$-optimization to capture sophisticated combinatorial optimization problems with difficult modular constraints. We reinforce the evidence that $S$-optimization is "the right concept" by showing that the well-known randomized sampling algorithm of K. Clarkson for low-dimensional convex optimization problems can be extended to work with variables taking values over $S$.

연구 동기 및 목표

• 연속 변수에서 혼합 정수 및 일반적인 $S$-제약 변수 최적화 문제로 캘라피오-캄피 시나리오 접근법을 확장하기.
• 연속, 정수, 혼합 정수 프로그래밍의 일반화로 $S$-최적화의 개념을 정의하고 체계화하기.
• $S \subset \mathbb{R}^d$로 제약된 변수가 있는 경우에도, 확률적 제약 조건 하에서 높은 확률로 타당성을 보장하는 표본 크기 경계를 설정하기.
• 클라크슨의 랜덤화된 표본 추출 알고리즘이 $S$-제약 변수에 대해 확장될 수 있으며, 이때 $S$-헬리 수가 핵심 매개변수로 기능함을 보여주기.

제안 방법

• 결정 변수가 $S \subset \mathbb{R}^d$의 부분집합으로 제한되는 $S$-최적화를 도입하며, 이는 연속($S = \mathbb{R}^d$), 정수($S = \mathbb{Z}^d$), 혼합 정수($S = \mathbb{R}^{k} \times \mathbb{Z}^{d-k}$)의 경우를 일반화한다.
• $S$-헬리 수 $h(S)$를 정의한다. 이는 $S$와 교차하는 임의의 $h(S)$개의 볼록 집합이 반드시 $S$ 내에 공통의 점을 가진다는 최소 정수로, 헬리 정리를 일반화한다.
• $S$-헬리 수를 활용하여, 원래의 확률적 제약 조건을 위반할 확률이 $\epsilon$ 이하가 되고, 신뢰도 $1 - \delta$로 보장되는 시나리오 완화를 위한 명시적인 표본 크기 경계 $N$을 유도한다.
• 비행자 공간 이론을 적용하여 $S$-최적화를 위한 랜덤화 알고리즘을 설계하며, 이 경우 조합적 차원은 $h(S) - 1$이며, 작은 부분문제에 대한 오라클 쿼리를 통해 효율적인 해법이 가능하다.
• 랜덤화된 표본 추출 전략을 적용한다: 불확실성 매개변수 $w$의 $N$개의 i.i.d. 표본을 추출한 후, $N$개의 제약 조건을 가진 결정론적 $S$-볼록 최적화 문제를 푼다.
• 크기 $O(h(S))$의 작은 $S$-볼록 부분문제를 해결하는 오라클에 의존하며, $h(S)$가 유계이면 기대 시간 복잡도가 다항식 시간 내에 가능하다.

실험 결과

연구 질문

• RQ1 캘라피오-캄피 시나리오 접근법은 연속 변수를 초월하여 혼합 정수 및 기타 구조적 변수 집합으로 일반화될 수 있는가?
• RQ2 볼록 집합이 부분집합 $S \subset \mathbb{R}^d$와 교차할 때, 헬리 정리의 적절한 일반화 형태는 무엇인가?
• RQ3 시나리오 근사화에 필요한 표본 크기 $N$은 $S$의 구조에 따라 어떻게 달라지는가?
• RQ4 클라크슨의 랜덤화 알고리즘이 $S$-최적화 문제에 대해 $S$-헬리 수를 핵심 매개변수로 사용하여 확장될 수 있는가?
• RQ5 $S$-헬리 수는 표본 기반 알고리즘의 복잡성과 타당성 보장에 어떤 역할을 하는가?

주요 결과

• 확률적 제약 조건이 있는 $S$-최적화 문제에 대해 $\delta$-근사해를 확보하기 위한 필요한 표본 크기 $N$은 다음 경계를 만족한다: $N \geq \frac{2(2^{d-k}(k+1)-1)}{\epsilon}\ln(1/\epsilon) + \frac{2}{\epsilon}\ln(1/\delta) + 2(2^{d-k}(k+1)-1)$, 여기서 $d-k$는 정수 변수의 수이다.
• 표본 문제의 해가 원래의 확률적 제약 조건을 $\epsilon$ 초과로 위반할 확률은 $\delta$ 미만이며, 이는 높은 신뢰도로 타당성을 보장한다.
• $S$-헬리 수 $h(S)$는 비행자 공간의 조합적 차원을 결정하며, 이는 랜덤화 알고리즘의 복잡성에 영향을 미친다.
• 정수 변수의 수가 고정되어 있을 경우, 랜덤화 알고리즘이 기대 다항식 시간 내에 수행되며, 제약 조건의 수에 대해 선형 복잡도를 가진다.
• 알고리즘은 크기 $O(h(S))$의 작은 $S$-볼록 부분문제를 해결하는 오라클에 의존하며, $S = \mathbb{R}^d$, $S = \mathbb{Z}^d$, $S = \mathbb{R}^k \times \mathbb{Z}^{d-k}$의 경우 이러한 오라클이 존재한다.
• 이 프레임워크는 기존 결과를 통합하고 일반화한다: $S = \mathbb{R}^d$일 경우 원래의 캘라피오-캄피 경계를 복원하며, $S = \mathbb{Z}^d$일 경우 정수 확률적 제약 조건 문제에 대한 새로운 경계를 제공한다.