[논문 리뷰] Neur2SP: Neural Two-Stage Stochastic Programming

Justin Dumouchelle, Rahul Patel외 2명|arXiv (Cornell University)|2022. 05. 20.

Economic and Environmental Valuation인용 수 11

한 줄 요약

Neur2SP는 두 단계 확률적 프로그래밍(2SPs)을 가속화하기 위해 데이터 기반, 구조 무관 방법을 제안한다. ReLU 기반 신경망을 사용해 기대 제2단계 비용을 근사화하는 방법으로, 이 대체 모델은 혼합정수계획법(MIP)에 통합되어 효율적으로 해결되며, 시나리오 수가 증가함에 따라 광범위한 형태보다 수 개의 주머니보다 훨씬 빠른 1.66초 이내에 고품질의 해를 도출한다.

ABSTRACT

Stochastic Programming is a powerful modeling framework for decision-making under uncertainty. In this work, we tackle two-stage stochastic programs (2SPs), the most widely used class of stochastic programming models. Solving 2SPs exactly requires optimizing over an expected value function that is computationally intractable. Having a mixed-integer linear program (MIP) or a nonlinear program (NLP) in the second stage further aggravates the intractability, even when specialized algorithms that exploit problem structure are employed. Finding high-quality (first-stage) solutions -- without leveraging problem structure -- can be crucial in such settings. We develop Neur2SP, a new method that approximates the expected value function via a neural network to obtain a surrogate model that can be solved more efficiently than the traditional extensive formulation approach. Neur2SP makes no assumptions about the problem structure, in particular about the second-stage problem, and can be implemented using an off-the-shelf MIP solver. Our extensive computational experiments on four benchmark 2SP problem classes with different structures (containing MIP and NLP second-stage problems) demonstrate the efficiency (time) and efficacy (solution quality) of Neur2SP. In under 1.66 seconds, Neur2SP finds high-quality solutions across all problems even as the number of scenarios increases, an ideal property that is difficult to have for traditional 2SP solution techniques. Namely, the most generic baseline method typically requires minutes to hours to find solutions of comparable quality.

연구 동기 및 목표

• 혼합정수 또는 비선형 제2단계 문제를 포함한 두 단계 확률적 프로그래밍(2SPs)을 해결하는 데 있어 계산상의 비현실성 문제를 해결한다.
• 문제 특화의 구조나 분해 알고리즘에 의존하지 않는 일반적인 휴리스틱 기법을 개발한다.
• 기존 방법인 광범위한 형태가 비실용적이게 되는 대규모 시나리오 수를 포함한 2SPs의 빠르고 확장 가능한 해법을 가능하게 한다.
• 계산적으로 효율적이면서도 다양한 2SP 문제 유형에서 높은 해 품질을 유지하는 대체 최적화 모델을 제공한다.
• 딥 러닝을 사용해 기대 보조 비용을 근사화하는 것이 MIP 솔버와 원활하게 통합될 수 있음을 입증한다.

제안 방법

• 시뮬레이션 기반 샘플링을 통해 (제1단계 결정, 시나리오 집합, 기대 제2단계 비용) 튜플로 구성된 데이터셋을 생성한다.
• 주어진 제1단계 결정과 시나리오 집합에 대해 기대 제2단계 비용을 예측하기 위해 ReLU 기반의 순환 신경망(NN-E 또는 NN-P)을 훈련한다.
• ReLU 활성화 함수의 MIP 표현 가능 형식을 사용해 훈련된 신경망을 MIP에 통합함으로써 대체 문제의 정확한 최적화를 가능하게 한다.
• 결과로 도출된 대체 MIP를 표준 MIP 솔버로 해결하여 제1단계 해를 도출한다.
• 제2단계 문제의 구조에 대한 명시적 지식 없이도 대체 모델을 사용해 제1단계 결정을 안내한다.
• 두 가지 변형이 제안된다: NN-E(전체 시나리오 집합을 한 번 통합)와 NN-P(각 시나리오마다 네트워크를 별도로 통합)로, 확장성과 훈련 오버헤드에서 차이가 있다.

실험 결과

연구 질문

• RQ1 문제의 구조에 의존하지 않고도 데이터 기반 신경망 대체 모델이 두 단계 확률적 프로그래밍의 해법 시간을 크게 단축시킬 수 있는가?
• RQ2 혼합정수 또는 비선형 제2단계 하위문제를 포함한 문제에서, 훈련 중에 관찰하지 못한 더 큰 시나리오 집합에 대해 훈련된 신경망이 얼마나 잘 일반화되는가?
• RQ3 대체 모델의 두 변형인 NN-E와 NN-P 간에 해 품질과 계산 효율성 사이의 상호 교환 관계는 어떠한가?
• RQ4 다양한 2SP 문제 유형에서 표준 광범위한 형태(EF) 대비 Neur2SP의 해 품질과 런타임에서의 성능 비교는 어떠한가?
• RQ5 EF가 계산적으로 비현실적이게 되는 상황에서, 시나리오 수가 증가함에 따라 대체 모델이 여전히 높은 해 품질을 유지할 수 있는가?

주요 결과

• Neur2SP는 모든 벤치마크 2SP 문제를 1.66초 이내에 해결했으며, 모든 문제 인스턴스에서 최소 0.11초, 최대 1.66초의 해결 시간을 기록했다.
• NN-E 변형은 대부분의 문제에서 광범위한 형태(EF) 해와 ±5% 이내의 목표 함수 차이를 보였으며, 최대 편차는 13.78%이고 최소 편차는 -102%였다.
• 대규모 인스턴스(예: CFLP, SSLP, PP)에서는 EF보다 속도와 해 품질 면에서 Neur2SP가 뛰어나며, EF는 3시간이 넘도록 Neur2SP의 품질을 따라오지 못했다.
• NN-P 변형은 가장 큰 INVP 인스턴스에서 가용해를 찾지 못한 채 타임아웃이 발생했으며, 이는 각 시나리오별로 네트워크를 통합함으로써 발생하는 확장성 한계를 시사한다.
• 풀링 문제(PP)의 경우, NN-E는 EF와 40%의 목표 함수 차이를 보이며 뛰어난 일반화 능력을 입증했지만, NN-P는 성능이 열악하여 40%의 갭을 보이며 이 문제 유형에서 일반화에 실패한 것으로 나타났다.
• NN-E 모델은 훈련 시 최대 100개의 시나리오를 기준으로 훈련되었음에도 불구하고, 최대 1000개의 시나리오까지의 더 큰 시나리오 집합에 대해 잘 일반화되며, 시나리오 수가 증가할수록 성능이 향상되는 경향을 보였다.