[논문 리뷰] Combating Conservativeness in Data-Driven Optimization under Uncertainty: A Solution Path Approach

Henry Lam, Huajie Qian|arXiv (Cornell University)|2019. 09. 13.

Risk and Portfolio Optimization참고 문헌 55인용 수 5

한 줄 요약

이 논문은 전체 탍가능 집합을 추정하는 대신 해결 경로의 저차원 구조를 활용하여 데이터 기반 최적화에서의 과도한 보수성(conservativeness)을 줄이기 위해 검증 기반 솔루션 경로 접근법을 제안한다. 다변량 또는 단변량 가우시안 최대값 기반 검증기를 사용해 매개변수화된 경로를 따라 후보 솔루션을 검증함으로써, 차원에 대한 의존성이 최소화되고 渐近적 최적성이 확보되는 더 탐색 가능한 탄력성 있는 탄력성 보장을 달성한다. 수치 실험에서 기준 기법들을 능가한다.

ABSTRACT

In data-driven optimization, solution feasibility is often ensured through a "safe" reformulation of the uncertain constraints, such that an obtained data-driven solution is guaranteed to be feasible for the oracle formulation with high statistical confidence. Such approaches generally involve an implicit estimation of the whole feasible set that can scale rapidly with the problem dimension, in turn leading to over-conservative solutions. In this paper, we investigate a validation-based strategy to avoid set estimation by exploiting the intrinsic low dimensionality among all possible solutions output from a given reformulation. We demonstrate how our obtained solutions satisfy statistical feasibility guarantees with light dimension dependence, and how they are asymptotically optimal and thus regarded as the least conservative with respect to the considered reformulation classes. We apply this strategy to several data-driven optimization paradigms including (distributionally) robust optimization, sample average approximation and scenario optimization. Numerical experiments show encouraging performances of our strategy compared to established benchmarks.

연구 동기 및 목표

• 안전 재구성 방식을 사용할 경우 전체 탄력성 집합을 암묵적으로 추정함으로써 발생하는 데이터 기반 최적화의 본질적 과도한 보수성을 해결하기 위해.
• 로버스트 최적화, SAA, 시나리오 최적화와 같은 재구성 클래스에서 생성된 저차원 만족 경로에 초점을 맞춤으로써 차원에 의존하는 보수성을 줄이기 위해.
• 정확한 탄력성 보장을 확보하면서 매개변수화된 해결 경로를 따라 최적의 솔루션을 선택하는 검증 기반 전략을 개발하기 위해.
• 문제 차원에 따라 가벼운 스케일링을 보이는 유한 표본 및 渐近적 탄력성 및 최적성 보장을 제공하기 위해.
• 목표값과 탄력성 신뢰도 측면에서 SAA, DRO, FAST와 같은 기존 기준 기법들을 능가하기 위해.

제안 방법

• 로버스트 최적화나 시나리오 최적화와 같은 주어진 데이터 기반 재구성에서 매개변수화된 해결 경로를 구성하여, 해결책을 보수성 매개변수의 함수로 표현한다.
• 다변량 가우시안 최대값(비정규화 또는 정규화)을 사용해 이 경로를 따라 후보 해결책을 검증함으로써 표본 평균 제약 조건에 통계적 마진을 설정한다.
• 다른 대안 검증기는 단변량 가우시안을 사용하여 마진을 계산하며, 적용 가능한 경우 더 탐색 가능한 보장을 제공한다.
• 최적의 해결책은 목표 함수를 최대화하면서도 검증 데이터 세트에서 높은 신뢰도로 표본 평균 제약 조건을 충족시키는 것을 보장함으로써 선택된다.
• 전체 탄력성 집합 추정을 피함으로써 차원에 의존하는 보수성이 감소한다.
• SAA, 분포로버스트 최적화, 시나리오 최적화에 이 프레임워크를 적용하였으며, 다양한 차원과 표본 크기에서 수치적 검증을 수행하였다.

실험 결과

연구 질문

• RQ1 전체 탄력성 집합 추정을 피하는 검증 기반 전략이 데이터 기반 최적화에서의 보수성을 줄일 수 있는가?
• RQ2 저차원 해결 경로의 구조가 고차원 문제에서 더 나은 탄력성과 최적성의 상호보완적 조건을 어떻게 가능하게 하는가?
• RQ3 어떤 통계적 검증기가 최소한의 차원 의존성으로 탐색 가능한 탄력성 보장을 보장할 수 있는가?
• RQ4 제안된 검증기들은 FAST 및 표준 SAA와 같은 기존 기준 기법과 비교해 목표값과 탄력성 신뢰도 측면에서 어떻게 성능을 내는가?
• RQ5 해결 경로 접근법의 유한 표본 및 渐近적 성능 보장은 무엇인가?

주요 결과

• 제안된 방법은 재구성 클래스 내에서 渐近적 최적성을 달성하며, 선택된 재구성 프레임워크 하에서 가능한 한 보수성이 가장 낮은 해결책을 생성한다.
• 탄력성 보장은 문제의 차원에 따라 가벼운 스케일링을 보이며, 전체 탄력성 집합 추정에서 발생하는 고차원 동시 추정 오차를 피하기 때문이다.
• d=10, n=200 조건에서의 수치 실험에서, 단변량 가우시안 검증기는 평균 목표값 -3.87을 달성하여 FAST(-2.54)와 순수 평균(-4.44)을 능가했으며, 100% 탄력성 유지.
• d=50, n=500 조건에서는 단변량 가우시안 검증기가 평균 목표값 -15.80을 달성하여 FAST(-8.92)와 순수 평균(-18.14)보다 유의미하게 뛰어났으며, 탄력성 비율 98.0% 확보.
• 비정규화 및 정규화된 가우시안 최대값 검증기는 FAST 및 순수 평균보다 더 탐색 가능한 탄력성 신뢰 수준을 제공했으며, 적용 가능한 경우 단변량 가우시안가 가장 탐색 가능한 경계를 제공했다.
• 이 방법은 고차원 설정에서 특히 성능이 뛰어나며, 더 큰 문제에서는 목표값에서 5단위 이상의 성능 향상을 기록했고, 목표값과 탄력성 신뢰도 양 측면에서 기준 기법들을 일관되게 능가한다.