[논문 리뷰] Efficient Algorithms for Distributionally Robust Stochastic Optimization with Discrete Scenario Support

Zhe Zhang, Shabbir Ahmed외 1명|arXiv (Cornell University)|2019. 09. 24.

Risk and Portfolio Optimization참고 문헌 14인용 수 5

한 줄 요약

이 논문은 이산 시나리오 지원을 가진 분포로버스트 두 단계 확률적 최적화를 위한 새로운 효율적 알고리즘을 제안한다. 문제는 삼중선형 최소-최대-최대 사鞍점 문제로 재구성되며, 반복 복잡도가 $\tilde{\text{O}}(1/\rho)$로, 시나리오 수 $K$에 대해 약간의 의존성만 가지며, 이는 $K$가 클 경우 특히 유리하다. 핵심 기여는 반복 복잡도가 $\tilde{\text{O}}(1/\rho)$인 파rameter-free smoothing 기반 알고리즘으로, near-optimal 수렴성을 확보하며, Kantorovich 오차집합에 대해서는 투영을 포함하지 않는 업데이트를 통해 성능을 추가로 향상시켰다. 이에 따라 추가로 $\tilde{\text{O}}(\text{poly}(\text{log} K))$의 반복 수가 증가한다.

ABSTRACT

Recently, there has been a growing interest in distributionally robust optimization (DRO) as a principled approach to data-driven decision making. In this paper, we consider a distributionally robust two-stage stochastic optimization problem with discrete scenario support. While much research effort has been devoted to tractable reformulations for DRO problems, especially those with continuous scenario support, few efficient numerical algorithms were developed, and most of them can neither handle the non-smooth second-stage cost function nor the large number of scenarios $K$ effectively. We fill the gap by reformulating the DRO problem as a trilinear min-max-max saddle point problem and developing novel algorithms that can achieve an $\mathcal{O}(1/ε)$ iteration complexity which only mildly depends on $K$. The major computations involved in each iteration of these algorithms can be conducted in parallel if necessary. Besides, for solving an important class of DRO problems with the Kantorovich ball ambiguity set, we propose a slight modification of our algorithms to avoid the expensive computation of the probability vector projection at the price of an $\mathcal{O}(\sqrt{K})$ times more iterations. Finally, preliminary numerical experiments are conducted to demonstrate the empirical advantages of the proposed algorithms.

연구 동기 및 목표

• 이산 시나리오 지원을 가진 분포로버스트 두 단계 확률적 최적화 프로그램에 대해 효율적인 수치 알고리즘이 부족한 문제를 해결하며, 특히 $K$가 크거나 제2단계 비용 함수가 비연속일 경우에 초점을 맞춘다.
• 확률 벡터 투영이 필요한 고비용 계산을 유발하는 기존 방법들이 강한 구조적 가정(예: $\theta$에 대한 볼록성)을 요구하거나, 반복 비용이 높은 문제를 해결한다.
• 반복 복잡도가 시나리오 수 $K$에 대해 약간의 의존성만 가지는 알고리즘 개발을 통해, 대규모 데이터 기반 및 리스크 회피 최적화 문제의 확장성을 확보한다.
• Kantorovich 구역 오차집합에 대해 실용적이고 확장 가능한 솔루션을 제공한다. 이는 비용이 많이 드는 확률 벡터 투영을 제거함으로써 달성된다.
• 합성 및 실세계 데이터셋(예: SSN 및 합성 포트폴리오)을 대상으로 한 수치 실험을 통해 제안된 알고리즘의 우수성을 입증한다.

제안 방법

• 분포로버스트 두 단계 확률적 최적화 문제를 삼중선형 최소-최대-최대 사鞍점 문제로 재구성함으로써 고급 1차 방법의 적용 가능성을 확보한다.
• 비연속 제2단계 비용 함수를 다루기 위해 스무딩 기법을 사용하는 순차적 이중(Sequential Dual, SD) 알고리즘을 제안하며, 반복 복잡도가 $\tilde{\text{O}}(1/\rho)$임을 확보한다.
• 조정 매개변수 없이 적응형 스텝 사이즈를 사용하는 파rameter-free Stochastic Bundle-Level (SSL) 알고리즘을 도입하여 동일한 반복 복잡도 스케일링을 유지한다.
• Kantorovich 구역 오차집합에 대해서는 확률 벡터 투영을 피하기 위해 이중 형식과 부가 변수를 사용하는 방식으로 알고리즘을 수정함으로써 반복 비용을 감소시킨다.
• 각 반복에서 시나리오별 하위문제를 분리함으로써 병렬 처리를 가능하게 하여 현대 컴퓨팅 아키텍처에서 효율적인 구현을 가능하게 한다.
• 이론적으로는 정확한 하위문제 해를 사용하지만, 향후 연구를 위해 근사 또는 비정확한 하위문제 해를 포함하는 확장 가능한 프레임워크로 설계되어 있다.

실험 결과

연구 질문

• RQ1 이산 시나리오 지원을 가진 분포로버스트 두 단계 확률적 최적화 프로그램에 대해, 반복 복잡도가 $K$에 독립적인 1차 알고리즘을 설계할 수 있는가?
• RQ2 DRO에서 비연속 제2단계 비용 함수를 효율적으로 다룰 수 있는 방법은 무엇인가? 이때 볼록성 또는 기타 제한적인 구조적 가정이 필요로 하지 않는다.
• RQ3 Kantorovich 구역 기반 DRO 문제에서 비용이 많이 드는 확률 벡터 투영 단계를 제거하면서도 수렴성과 반복 복잡도를 유지할 수 있는가?
• RQ4 제안된 알고리즘의 경험적 성능은 대규모 환경에서 PDHG, 벤더스 분해, 미러-프록스와 같은 기존 방법과 비교해 어떻게 되는가?
• RQ5 특히 리스크 회피 및 데이터 기반 응용에서 시나리오 수 $K$ 증가에 따라 알고리즘의 성능은 어떻게 스케일링되는가?

주요 결과

• 제안된 SD 및 SSL 알고리즘은 반복 복잡도가 $\tilde{\text{O}}(1/\rho)$로, $K$에 대해 약간의 의존성만 가지며, $K$에 비례하는 복잡도를 가지는 기존 방법에 비해 크게 향상되었다.
• Kantorovich 구역의 경우, 수정된 알고리즘은 확률 벡터 투영을 피하며 반복 수가 오직 $\tilde{\text{O}}(\text{poly}(\text{log} K))$ 만큼 증가하여, 큰 $K$에 대해서도 실용적인 성능을 확보한다.
• 수치 실험에서 SSL 알고리즘은 속도와 갭 감소 측면에서 PDHG 및 Benders 분해를 모두 뛰어넘었으며, 특히 SSN(50) 및 합성 포트폴리오(1000)와 같은 대규모 문제에서 두드러진 성능을 보였다.
• 단순형 오차집합을 사용한 SSN(50) 데이터셋에서, SSL은 31.3초 만에 갭을 107로 줄였고, Benders는 유사한 갭에 도달하기까지 578초가 소요되었다.
• ρ = 0.01인 Kantorovich 구역에서, SSL 알고리즘은 25.0초 만에 갭을 90으로 줄였고, Benders는 수렴하기까지 500초 이상이 소요되었다.
• 파rameter-free인 SSL 알고리즘은 고차원 및 큰-$K$ 환경에서 수렴 속도와 최종 갭 측면에서 PDHG 및 Benders를 일관되게 뛰어넘었다.