[논문 리뷰] Beyond Worst-case: A Probabilistic Analysis of Affine Policies in Dynamic Optimization

Omar El Housni, Vineet Goyal|arXiv (Cornell University)|2017. 06. 18.

Risk and Portfolio Optimization참고 문헌 12인용 수 3

한 줄 요약

이 논문은 두 단계 동적 로버스트 최적화에서 애핀 정책의 확률적 분석을 제공하며, 랜덤 불확실성 분포 하에서 애핀 정책이 최악의 경우 $O(\bigsqrt{m})$ 경계보다 훨씬 더 나은 근사 경계를 갖는 near-optimal 성능을 달성함을 보여준다. 주요 기여는 애핀 정책이 무작위 인스턴스에서 관찰된 강력한 성능에 대한 이론적 근거를 제공하며, 균등 분포와 접힘 정규 분포에 대한 실험을 통해 검증된다.

ABSTRACT

Affine policies (or control) are widely used as a solution approach in dynamic optimization where computing an optimal adjustable solution is usually intractable. While the worst case performance of affine policies can be significantly bad, the empirical performance is observed to be near-optimal for a large class of problem instances. For instance, in the two-stage dynamic robust optimization problem with linear covering constraints and uncertain right hand side, the worst-case approximation bound for affine policies is $O(\sqrt m)$ that is also tight (see Bertsimas and Goyal (2012)), whereas observed empirical performance is near-optimal. In this paper, we aim to address this stark-contrast between the worst-case and the empirical performance of affine policies. In particular, we show that with high probability affine policies give a good approximation for two-stage dynamic robust optimization problems on random instances generated from a large class of distributions; thereby, providing a theoretical justification of the observed empirical performance. The approximation bound depends on the distribution, but it is significantly better than the worst-case bound for a large class of distributions.

연구 동기 및 목표

• 동적 로버스트 최적화에서 애핀 정책의 열악한 최악의 경우 성능 경계와 강력한 경험적 성능 사이의 괴리 문제를 해결하기 위해.
• 최악의 경우 적대적 설정이 아닌 랜덤 불확실성 분포 하에서 애핀 정책의 근사 품질을 분석하기 위해.
• 계산 실험에서 관찰된 애핀 정책의 near-optimal 경험적 성능에 대한 이론적 근거를 제공하기 위해.
• 광범위한 분포 클래스에 대해 최악의 경우 $O(\bigsqrt{m})$ 경계보다 훨씬 더 날카로운 분포 기반 근사 경계를 유도하기 위해.
• 균등 분포와 접힘 정규 분포에 대한 계산 실험을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 선형 커버링 제약 조건과 낙관적 우회수 집합 $\mathcal{U}$ 내에서 불확실한 우변을 갖는 두 단계 조정 가능 로버스트 최적화 문제를 수립한다.
• 두 번째 단계 결정이 불확실 매개변수의 선형 함수인 애핀 정책을 분석하여 효율적인 계산을 가능하게 한다.
• 불확실성 벡터 $\boldsymbol{h}$ 를 균등 분포와 접힘 정규 분포를 포함한 광범위한 분포 클래스에서 추출된 것으로 모델링하여 확률적 근사 경계를 도출한다.
• 이중성과 선형 프로그래밍 재구성 기법을 사용하여 애핀 정책의 성능을 최적의 조정 가능 해와 비교 분석한다.
• 작은 인스턴스에 대해 최적의 조정 가능 해를 계산하기 위해 혼합정수계획법(MIP) 수식을 사용하여 애핀 정책과의 비교를 가능하게 한다.
• MIP 수식 내의 이차항을 처리하기 위해 디지타이징 선형화 기법을 적용하여 표준 솔버를 통해 정확한 해를 도출한다.

실험 결과

연구 질문

• RQ1 불확실성이 적대적가 아니라 랜덤 분포에서 추출될 경우, 애핀 정책이 최악의 경우 성능 경계를 초월한 근사 성능를 달성할 수 있는가?
• RQ2 애핀 정책의 근사 경계는 불확실 매개변수의 기저 분포에 따라 어떻게 달라지는가?
• RQ3 애핀 정책의 경험적 성능이 랜덤 인스턴스에서 이론적 최악의 경우 경계를 얼마나 잘 충족하거나 초월하는가?
• RQ4 랜덤 인스턴스에서 최적의 조정 가능 해를 계산하는 것과 애핀 정책을 사용하는 것 사이의 계산적 트레이드오프는 어떠한가?
• RQ5 어떤 특정한 분포 가정 하에 애핀 정책이 높은 확률로 근사 최적임을 증명할 수 있는가?

주요 결과

• i.i.d. 균등 분포 랜덤 인스턴스의 경우, 애핀 정책의 이론적 최악의 경우 경계는 2-근사(보조정리 2.2)이지만, 경험적 결과는 평균 최적성 갭이 뿐 1% 이내로 나타나, 근사 비율이 최대 1.04 이하임을 보여준다.
• 정규분포 및 접힘 정규분포의 경우 이론적 경계는 $O(\sqrt{\log(mn)})$ 이지만, 경험적 성능은 여전히 강력하여 평균 갭이 4% 이하로 유지된다.
• 애핀 정책은 효율적으로 확장 가능하여 $m = 50$ 인 경우에도 평균 계산 시간이 15초 이내였고, $m \geq 40$ 인 경우 3시간 이내에 최적의 조정 가능 해를 계산할 수 없었다.
• 최적의 조정 가능 해는 MIP를 사용해 작은 인스턴스($m \leq 30$)에서만 계산 가능했지만, 애핀 정책은 실질적으로 최악의 경우 이론적 경계를 항상 초월하는 성능를 보였다.
• 모든 테스트된 분포에서 최대 비율 $z_{\text{Aff}}/z_{\text{AR}}$ 는 1.04 이하로 유지되어 다양한 랜덤 인스턴스에서 강력한 near-최적성임을 보여준다.
• 결과적으로 애핀 정책는 계산적으로 타당할 뿐 아니라, 광범위한 랜덤 분포 클래스 하에서 높은 확률로 근사 최적임을 증명할 수 있으며, 이는 그들의 경험적 성공을 설명한다.