[논문 리뷰] Dynamic optimization with side information

Dimitris Bertsimas, Christopher McCord외 1명|arXiv (Cornell University)|2019. 07. 17.

Supply Chain and Inventory Management인용 수 6

한 줄 요약

이 논문은 다기능 동적 의사결정 문제에 대한 데이터 기반 불확실성 집합의 가중치를 기계학습(예: k-NN, 랜덤 포레스트)을 통합하는 접근법인 측면 정보를 고려한 샘플로 부드러운 최적화(SRO-SI)를 제안한다. 이는 점 渐진 최적성(Asymptotic optimality)을 달성하며, 재고, 금융, 운송 계획 사례에서 타당한 성능을 15% 이상 향상시키며, 12단계 문제의 경우 계산 시간이 1분 이내이다.

ABSTRACT

We develop a tractable and flexible approach for incorporating side information into dynamic optimization under uncertainty. The proposed framework uses predictive machine learning methods (such as $k$-nearest neighbors, kernel regression, and random forests) to weight the relative importance of various data-driven uncertainty sets in a robust optimization formulation. Through a novel measure concentration result for a class of machine learning methods, we prove that the proposed approach is asymptotically optimal for multi-period stochastic programming with side information. We also describe a general-purpose approximation for these optimization problems, based on overlapping linear decision rules, which is computationally tractable and produces high-quality solutions for dynamic problems with many stages. Across a variety of examples in inventory management, finance, and shipment planning, our method achieves improvements of up to 15\% over alternatives and requires less than one minute of computation time on problems with twelve stages.

연구 동기 및 목표

• 불확실성 하에서 일반적이고 해석 가능한 측면 정보를 동적 최적화에 통합하는 방법을 개발하는 것.
• 알 수 없는 최적 의사결정 규칙을 가진 다기능 확률적 프로그램에서 예측 분석과 사전 결정의 다이내믹스를 연결하는 것.
• 비모수 기계학습 방법을 사용해 불확실성 집합의 가중치를 부여할 경우 점 渐진 최적성 보장하는 것.
• 겹치는 선형 의사결정 규칙을 통해 고단계 동적 문제에 대한 강건 최적화를 확장하는 것.
• SAA 및 측면 정보 없이 SRO를 기준으로 비교할 때, 더 뛰어난 외부 표본 성능을 실증적으로 검증하는 것.

제안 방법

• 관측된 측면 정보에 가까운 역사적 데이터 포인트에 대해 기계학습 예측(예: k-NN, 커널 회귀, 랜덤 포레스트)을 사용해 가중치를 할당한다.
• 근접한 이웃 주변의 ℓ₁ 노름을 사용해 데이터 기반 불확실성 집합을 구성하며, 반경 ε은 표본 크기가 증가함에 따라 감소한다.
• 약한 정규 조건 하에서 국소 학습 방법에 대한 새로운 측도 집중 결과를 도입해 가중 불확실성 집합의 점 渐진 최적성을 증명한다.
• 겹치는 선형 의사결정 규칙을 활용해 고차원의 다기능 정책을 효율적으로 근사한다.
• 결과로 도출된 강건 최적화 문제를 다중 정책 근사 기법을 통해 해결하며, 계산의 해석 가능성을 유지한다.
• 실증 평가에서 표본 평균 근사(SAA) 및 강건 최적화를 기준 비교로 사용한다.

실험 결과

연구 질문

• RQ1 기계학습 방법을 체계적으로 강건 최적화에 통합하여 불확실성 하에서의 동적 의사결정을 향상시킬 수 있는가?
• RQ2 비모수 학습을 사용해 불확실성 집합의 가중치를 할당할 경우 제안된 프레임워크가 점 渐진 최적성을 달성하는가?
• RQ3 측면 정보의 포함 여부가 다기능 동적 문제의 외부 표본 성능에 어떤 영향을 미치는가?
• RQ4 많은 단계를 가진 문제에 대해 계산의 해석 가능성을 유지하면서도 이 방법이 확장 가능한가?
• RQ5 SAA 및 측면 정보 없이 SRO를 기준으로 비교할 때, 제안된 방법의 실증 성능 향상 수준은 어떠한가?

주요 결과

• 제안된 SRO-SI 방법은 운송 계획, 재고 관리, 금융 사례에서 타당한 성능을 최대 15% 이상 향상시켰다.
• 운송 계획 사례에서 SRO-SI는 측면 정보 없이 SAA 및 SRO보다 유의미하게 뛰어난 성능을 보였으며, 다중 검정 보정 후 p-값이 0.05 이하였다.
• 비모수 학습 방법을 사용한 국소 학습에 대한 새로운 측도 집중 결과 덕분에 이 방법은 약한 정규 조건 하에서 점 渐진 최적성을 달성한다.
• 겹치는 선형 의사결정 규칙을 사용한 다중 정책 근사 기법 덕분에 12단계 문제를 1분 이내에 효율적으로 해결할 수 있었다.
• 실증 결과에 따르면, SAA 및 SRO가 유사한 성능를 보일 경우에도 측면 정보를 통합함으로써 의미 있는 성능 향상이 이루어졌다.
• 강건 최적화는 고차원, 다기능 문제에 효과적으로 확장되며, 뛀난 외부 표본 성능를 유지한다.