[논문 리뷰] Residuals-Based Contextual Distributionally Robust Optimization with Decision-Dependent Uncertainty

Qing Zhu, Xian Yu외 1명|arXiv (Cornell University)|2024. 06. 28.

Risk and Portfolio Optimization인용 수 5

한 줄 요약

본 논문은 공변량 및 의사결정에 따라 불확실성을 모델링하는 잔차 기반의 맥락 인식 DRO 프레임워크(ER-D3RO)를 제시하며, 회귀 잔차를 이용해 세 가지 유형의 애매모호 집합과 데이터 기반 반경을 구성하고 이론적 보장과 수치적 시연을 제공한다.

ABSTRACT

We consider a residuals-based distributionally robust optimization model, where the underlying uncertainty depends on both covariate information and our decisions. We adopt regression models to learn the latent decision dependency and construct a nominal distribution (thereby ambiguity sets) around the learned model using empirical residuals from the regressions. Ambiguity sets can be formed via the Wasserstein distance, a sample robust approach, or with the same support as the nominal empirical distribution (e.g., phi-divergences), where both the nominal distribution and the radii of the ambiguity sets could be decision- and covariate-dependent. We provide conditions under which desired statistical properties, such as asymptotic optimality, rates of convergence, and finite sample guarantees, are satisfied. Via cross-validation, we devise data-driven approaches to find the best radii for different ambiguity sets, which can be decision-(in)dependent and covariate-(in)dependent. Through numerical experiments, we illustrate the effectiveness of our approach and the benefits of integrating decision dependency into a residuals-based DRO framework.

연구 동기 및 목표

• 맥락적 확률적 프로그램에서 의사결정 의존적 불확실성을 동기부여하고 형식화한다.
• 예측된 미래에 대한 분포적 애매모호성을 회귀 잔차를 이용해 구성하는 ER-D3RO 프레임워크를 개발한다.
• 제안된 방법에 대한 통계적 보장(일관성, 수렴 속도, 유한 샘플 보장)을 제공한다.
• 공변량 및 의사결정 의존성하에서 애매모호 집합의 반경을 선택하기 위한 데이터 기반 알고리즘(교차 검증을 통해)을 제안한다.
• 의사결정 의존적 선적 계획 및 가격 결정 문제에서 접근법을 시연하고 ER-SAA 및 ER-DRO와 비교한다.

제안 방법

• Y = f*(X,Z) + ε로 불확실성을 모델링하는데, f*은 함수 클래스에 속하고 ε는 X 및 Z와 독립적이다.
• 회귀 추정치와 잔차를 사용하여 경험적 잔차 기반 DD-SAA(ER-DD-SAA)를 구성하되, 타당성 확보를 위해 Y의 볼록 집합으로의 투영을 포함한다.
• ER 경험적 분포를 중심으로 한 세 가지 애매모호 집합을 형성한다: (i) Wasserstein 거리 기반, (ii) 샘플 강건, (iii) 동일 지지 애매모호 집합.
• 애매모호 집합에서의 최악의 기대 비용에 대해 Z의 원소를 최소화하여 ER-D3RO를 개발한다: hat v_n^{D3RO}(x) = min_z sup_{Q in hat P_n(x,z)} E_{Y~Q}[c(z, Y(x,z))].
• 의사결정 의존성 하에서 일관성, 수렴 속도, 유한 샘플 보장 등 이론적 보장을 조사하고, 의사결정 독립 반경 및 공변량/의존 반경으로의 확장을 논의한다.
• 다른 애매모호 집합 형태 및 의존성에 대해 반경을 선택하는 교차 검증 기반 절차를 제공한다.]

실험 결과

연구 질문

• RQ1 잔차 기반 맥락적 DRO 프레임워크에 의사결정 의존적 불확실성을 어떻게 도입할 수 있는가?
• RQ2 다른 애매모호 집합 구성에서 ER-D3RO에 대한 통계적 보장(일관성, 수렴 속도, 유한 샘플 보장)은 무엇인가?
• RQ3 반경이 공변량 및/또는 의사결정에 의존하는 경우 애매모호 집합 반경을 어떻게 선택해야 하는가?
• RQ4 의사결정 의존성을 도입하는 것이 의사결정 독립적 접근법에 비해 샘플 밖 성능에 어떤 영향을 미치는가?
• RQ5 의사결정 의존 맥락 설정에서 세 가지 애매모호 집합 구성(Wasserstein, SR, 동일 지지)의 실질적 비교는 어떤가?

주요 결과

• ER-D3RO 프레임워크는 학습된 모델 주위의 애매모호 집합을 형성하기 위해 회귀 잔차를 사용하여 잔차 기반 DRO에 의사결정 의존성을 통합한다.
• 본 논문은 세 가지 애매모호 집합 유형에 걸쳐 제안된 접근법에 대한 점근적 최적성 조건, 수렴 속도 및 유한 샘플 보장을 제시한다.
• 공변량- 및/또는 의사결정 의존적일 수 있는 반경을 선택하기 위한 교차 검증 기반 데이터 기반 방법을 제안한다.
• 의사결정 의존적 선적 계획 및 가격 결정에 대한 수치 실험은 의사결정 의존성의 도입 효과를 보여주고 ER-D3RO를 ER-SAA 및 의사결정 독립적 ER-DRO와 비교하여 성능 이점을 강조한다.