[논문 리뷰] Two-stage sample robust optimization

Dimitris Bertsimas, Shimrit Shtern외 1명|arXiv (Cornell University)|2019. 07. 16.

Risk and Portfolio Optimization참고 문헌 33인용 수 14

한 줄 요약

이 논문은 유형-∞ 워샤프스키 거리 불확실성 집합을 가진 분포로 불확실성 최적화 문제를 근사하기 위해 겹치는 선형 결정 규칙을 사용하는 이단계 샘플로 불확실성 최적화 방법을 제안한다. 미약한 조건 하에서 渐近 최적성(점점 수렴하는 최적성)을 증명하고, 수치 실험을 통해 이 방법이 계산적으로 타당하며, 기존의 최신 데이터 기반 대안들보다 훨씬 뛰어난 외부 표본 성능을 보임을 보여준다.

ABSTRACT

We investigate a simple approximation scheme, based on overlapping linear decision rules, for solving data-driven two-stage distributionally robust optimization problems with the type-$\infty$ Wasserstein ambiguity set. Our main result establishes that this approximation scheme is asymptotically optimal for two-stage stochastic linear optimization problems; that is, under mild assumptions, the optimal cost and optimal first-stage decisions obtained by approximating the robust optimization problem converge to those of the underlying stochastic problem as the number of data points grows to infinity. These guarantees notably apply to two-stage stochastic problems that do not have relatively complete recourse, which arise frequently in applications. In this context, we show through numerical experiments that the approximation scheme is practically tractable and produces decisions which significantly outperform those obtained from state-of-the-art data-driven alternatives.

연구 동기 및 목표

• 제한된 데이터 하에서 상대적으로 완전한 후행 조치(Recourse)가 성립하지 않을 경우에도 샘플 평균 근사(SAA)의 한계를 해결하기 위해.
• 워샤프스키 불확실성 집합을 가진 이단계 분포로 불확실성 최적화 문제에 대해 계산적으로 타당한 근사 기법을 개발하기 위해.
• 미약한 확률적 가정 하에서 제안된 방법의 점점 수렴하는 최적성에 대한 이론적 보장을 수립하기 위해.
• 기존의 데이터 기반 접근 방식과 비교하여, 제안된 방법이 외부 표본 성능에서 훨씬 뛰어난 첫 번째 단계 결정을 생성함을 경험적으로 검증하기 위해.

제안 방법

• 이 방법은 두 번째 단계의 결정 함수를 근사하기 위해 겹치는 선형 결정 규칙을 사용하여, 로버스트 최적화 문제의 해를 계산적으로 타당하게 만들 수 있다.
• 불확실성 집합의 겹치는 영역들에서 조각별 선형 결정 규칙을 최적화하는 다중 정책 근사 기법을 사용한다.
• 데이터 수가 증가함에 따라 불확실성 집합의 크기가 점점 줄어들기 때문에, 더 많은 데이터를 관찰할수록 국소 결정 규칙의 정밀도가 향상된다.
• 이 형식은 선형 프로그래밍으로 해결되며, 이는 대규모 데이터셋에서도 확장성과 계산적 타당성을 보장한다.
• 로버스트성 파라미터는 $ \epsilon_N = N^{-1/8} $로 설정되며, 데이터 크기 $ N $ 증가에 따라 로버스트성과 보수성 사이의 균형을 유지한다.
• 이 방법은 상대적으로 완전한 후행 조치가 성립하지 않는 문제에서도 타당성과 최적성 보장을 유지하도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 겹치는 선형 결정 규칙에 기반한 단순한 근사 기법이 워샤프스키 불확실성 집합을 가진 이단계 분포로 불확실성 최적화 문제에서 점점 수렴하는 최적성을 달성할 수 있는가?
• RQ2 제한된 데이터 하에서 제안된 방법이 SAA 및 기타 데이터 기반 접근 방식과 비교해 외부 표본 성능에서 어떻게 다를까?
• RQ3 상대적으로 완전한 후행 조치가 성립하지 않는 문제에서, 이 방법은 로버스트성을 향상시키면서도 계산적으로 타당한가?
• RQ4 로버스트성 파라미터 $ \epsilon_N $ 는 보수성과 외부 표본 성능 사이의 트레이드오프에 어떤 영향을 미치는가?
• RQ5 기본적인 확률적 문제에서 상대적으로 완전한 후행 조치가 성립하지 않더라도, 근사의 점점 수렴하는 최적성이 보장될 수 있는가?

주요 결과

• 제안된 다중 정책 근사 기법은 점점 수렴하는 최적성을 보인다: 데이터 포인트 수가 증가함에 따라 최적 비용과 첫 번째 단계 결정이 진짜 확률적 문제의 것과 수렴한다.
• 이 방법은 SAA 및 기타 데이터 기반 대안들보다 외부 표본 성능에서 뛰어나며, 특히 상대적으로 완전한 후행 조치가 성립하지 않는 문제에서 두드러진다.
• 제안된 방법의 실행 시간은 데이터 크기와 선형적으로 증가하며, 대규모 데이터셋에서도 계산적으로 타당하게 유지되며, $ N = 512 $ 일 때 평균 실행 시간이 5초 이내이다.
• 제안된 방법의 예측 오차는 항상 5%에서 10% 사이를 유지하여 진짜 외부 표본 성능에 대한 신뢰할 수 있는 상한선을 제공한다. 반면 SAA는 50~80%의 경우에서 음수 예측 오차를 기록했다.
• 데이터가 풍부할 경우, 이 방법은 SAA 및 MP Affine과 거의 동일한 외부 표본 성능을 달성하지만, 제한된 데이터 환경에서는 그들보다 뚜렷이 뛰어나다.
• 이 근사 방법은 SAA가 상대적으로 완전한 후행 조치가 없어 실패할 수 있는 모든 테스트 케이스에서 타당성을 유지한다.