[논문 리뷰] Sample Average Approximation for Stochastic Programming with Equality Constraints

Thomas Lew, Riccardo Bonalli외 1명|arXiv (Cornell University)|2022. 06. 20.

Risk and Portfolio Optimization참고 문헌 34인용 수 5

한 줄 요약

이 논문은 최적 제어에서 흔한 기대값 등식 제약 조건을 가진 확률적 프로그래밍을 위한 이완된 표본 평균 근사(SAA) 방법을 제안한다. 경험적 등식 제약 조건을 이완하고 무작위 집합 이론 및 허더-연속 농도 부등식을 활용하여, 표본 크기가 증가함에 따라 해가 진짜 최적 해로 거의 확실히 수렴함을 증명한다. 이는 미세한 연속성 및 유계 조건이 성립하는 경우에도 성립한다.

ABSTRACT

We revisit the sample average approximation (SAA) approach for non-convex stochastic programming. We show that applying the SAA approach to problems with expected value equality constraints does not necessarily result in asymptotic optimality guarantees as the sample size increases. To address this issue, we relax the equality constraints. Then, we prove the asymptotic optimality of the modified SAA approach under mild smoothness and boundedness conditions on the equality constraint functions. Our analysis uses random set theory and concentration inequalities to characterize the approximation error from the sampling procedure. We apply our approach and analysis to the problem of stochastic optimal control for nonlinear dynamical systems under external disturbances modeled by a Wiener process. Numerical results on relevant stochastic programs show the reliability of the proposed approach. Results on a rocket-powered descent problem show that our computed solutions allow for significant uncertainty reduction compared to a deterministic baseline.

연구 동기 및 목표

• 기대값 등식 제약 조건을 가진 확률적 프로그래밍에 표준 SAA를 적용할 때 渐近 최적성 보장이 부족한 문제를 해결한다.
• 등식 제약 조건을 엄격히 이행할 경우 고전적 SAA 수렴이 실패하는 문제를 해결한다.
• 허더 연속성 및 제약 함수의 유계성 등 약한 가정 하에 이론적 수렴을 확립한다.
• 비볼록 확률적 프로그래밍에 대해 SAA를 등식 및 부등식 제약 조건 모두에 일반화한다.
• 와이너 과정 외부 항력이 있는 비선형 시스템의 확률적 최적 제어 문제를 신뢰할 만한 샘플링 기반으로 해결할 수 있도록 한다.

제안 방법

• 표본 크기 $N$에 따라 감소하는 허용 오차 파라미터 $\delta_N$를 도입하여 SAA 문제의 경험적 등식 제약 조건을 이완한다.
• 가능집합을 무작위 컴act 집합 $C_N(\bar{\omega}) = \{u \in \mathcal{U} : \|h_N(u,\bar{\omega})\| \leq \delta_N\}$로 재구성하여 무작위 집합 이론의 적용을 가능하게 한다.
• 무작위 컴act 집합에 대한 균일 대수법칙을 사용하여 가능집합이 진짜 가능집합으로 거의 확실히 수렴함을 증명한다.
• 이전의 리프시츠 가정보다 더 약한 조건인 $\alpha$-허더 연속 함수 클래스에 대한 새로운 농도 부등식을 유도한다.
• 확률적 미분 방정식을 통한 비선형 시스템의 오픈 루프 확률적 최적 제어에 이 프레임워크를 적용한다.
• 연료 소비와 최종 상태 분산을 최소화하는 목적으로 화성 로켓 추진 착륙 문제에 방법을 검증한다.

실험 결과

연구 질문

• RQ1 표준 SAA 접근법은 기대값 등식 제약 조건을 가진 확률적 프로그래밍에 적용될 때도 渐近 최적성을 유지하는가?
• RQ2 리프시츠 연속성보다 더 약한 조건 하에서 SAA 방법을 渐近 최적성으로 만들 수 있는가?
• RQ3 표본 크기가 증가함에 따라 이완된 SAA 문제의 타당성은 유지되고, 진짜 최적 해로 수렴하는가?
• RQ4 무작위 집합 이론과 농도 부등식을 어떻게 조합하여 등식 제약 조건을 가진 샘플링 기반 확률적 프로그래밍의 수렴성을 분석할 수 있는가?
• RQ5 이완된 SAA 접근법은 비볼록 확률적 프로그래밍에서 등식 및 부등식 제약 조건을 모두 다룰 수 있는가?

주요 결과

• 표본 크기가 증가함에 따라 기대값 등식 제약 조건을 가진 확률적 프로그래밍에 표준 SAA 접근법이 여전히 渐近 최적성 보장을 하지 못함을 확인한다.
• 허용 오차 $\delta_N = C N^{-(1/2 - \epsilon)}$를 점차 줄이는 방식으로 경험적 등식 제약 조건을 이완함으로써, 수정된 SAA는 해가 진짜 최적 해로 거의 확실히 수렴함을 입증한다.
• 약한 가정(A1–A3) 하에서 충분히 큰 $N$에 대해 $\bar{\mathbb{P}}$-거의 확실한 타당성을 보장한다.
• 이전 연구에서 사용된 리프시츠 가정보다 더 약한 조건인 $\alpha$-허더 연속 함수 클래스에 대한 새로운 농도 부등식을 증명한다.
• 비용 함수에 추가로 $\alpha$-허더 연속성 가정을 두면, SAA 해의 전체 수열이 진짜 최적 해로 수렴함을 보장하며, 부분수열이 아닌 전체 수열이 수렴한다.
• 이 방법은 화성 로켓 추진 착륙 문제에 성공적으로 적용되어 연료 소비와 최종 상태 오차 분산을 동시에 최소화하는 해를 도출한다.