[논문 리뷰] Two-Stage Robust Optimization with Decision Dependent Uncertainty

Bo Zeng, Wei Wang|arXiv (Cornell University)|2022. 03. 30.

Risk and Portfolio Optimization인용 수 13

한 줄 요약

이 논문은 결정에 의존하는 불확실성(DDU)을 가진 이단계로보수 최적화 문제를 정확히 해결하기 위해 컬럼 앤 컨스트레인트 생성(C&CG) 방법의 세 가지 고급 변형을 제안한다. 선형 프로그래밍의 핵심 개념을 활용하여 수렴성과 반복 복잡도 분석을 엄밀히 수행한다. 놀랍게도 DDU 기반 문제의 반복 횟수는 결정에 의존하지 않는 불확실성(DIU)의 경우와 비교해 더 높지 않으며, 도메인 전문 지식('딥 노우지')을 활용해 DIU 집합을 DDU 집합으로 변환하면 해의 품질과 강건성 모두 크게 향상된다.

ABSTRACT

The type of decision dependent uncertainties (DDUs) imposes a great challenge in decision making, while existing methodologies are not sufficient to support many real practices. In this paper, we present a systematic study to handle this challenge in two-stage robust optimization~(RO). Our main contributions include three sophisticated variants of column-and-constraint generation method to exactly compute DDU-based two-stage RO. By a novel application of core concepts of linear programming, we provide rigorous analyses on their computational behaviors. Interestingly, in terms of the iteration complexity of those algorithms, DDU-based two-stage RO is not more demanding than its decision independent uncertainty (DIU) based counterpart. It is worth highlighting a counterintuitive discovery that converting a DIU set into a DDU set by making use of "deep knowledge" and then computing the resulting DDU-based formulation may lead to a significant improvement. Indeed, as shown in this paper, in addition to capturing the actual dependence existing in the real world, DDU is a powerful and flexible tool to represent and leverage analytical properties or simply domain expertise to achieve a strong solution capacity. So, we believe it will open a new direction to solve large-scale DIU- or DDU-based RO. Other important results include basic structural properties for two-stage RO, an approximation scheme to deal with mixed integer recourse, and a couple of enhancement techniques for the developed algorithms, as well as an organized numerical study to help us appreciate all algorithms and enhancement techniques' computational performances.

연구 동기 및 목표

• 결정에 의존하는 불확실성(DDU)이 이단계로보수 최적화에서 다루어지지 않은 채로 남아 있는 문제에 대응하기 위해.
• 기존의 방법론에 한계가 있는 이단계 RO 문제의 DDU를 정확하고 계산적으로 효율적인 알고리즘으로 해결하기 위해.
• 기본적인 선형 프로그래밍 개념을 활용해 제안된 C&CG 변형의 수렴성과 반복 복잡도를 엄밀히 분석하기 위해.
• 도메인 전문 지식('딥 노우지')에 기반한 DDU 공식화가 전통적인 DIU 모델보다 향상된 해를 도출할 수 있음을 보여주기 위해.
• 실제 구현을 위한 체계적인 프레임워크를 제공하기 위해 — 구조적 성질, 혼합정수 후속 조치에 대한 근사 기법, 알고리즘 성능 향상 기법 포함.

제안 방법

• 이단계로보수 최적화 문제에 특화된 컬럼 앤 컨스트레인트 생성(C&CG) 알고리즘의 세 가지 정교한 변형을 제안하며, 비선형 후속 조치 및 불확실성 집합을 처리하기 위해 수정을 가미한다.
• C&CG 프레임워크 내에서 쌍대성과 최적성 조건과 같은 핵심 선형 프로그래밍 개념을 적용하여 수렴성과 반복 복잡도를 엄밀히 분석한다.
• 두 번째 단계의 2차원 원추(SOC) 후속 조치 문제와 SOC 기반 불확실성 집합을 다루기 위한 새로운 재구성 기법을 도입하여 수치적 안정성을 향상시킨다.
• 혼합정수 후속 조치 문제를 다루기 위한 근사 기법을 개발하여 실제 의사결정 상황에 더 넓은 적용 가능성을 확보한다.
• 따뜻한 시작(warm-starting), 제약 조건 강화, 동적 컷 생성과 같은 향상 기법을 활용해 수렴 속도를 가속화한다.
• 다양한 불확실성 구조와 후속 조치 유형을 가진 시설 위치 및 네트워크 설계 문제에 대한 광범위한 수치 실험을 통해 접근 방식을 검증한다.

실험 결과

연구 질문

• RQ1 결정에 의존하는 불확실성(DDU)을 가진 이단계로보수 최적화 문제는 향상된 C&CG 방법을 통해 정확히 해결할 수 있으며, 이러한 알고리즘의 이론적 반복 복잡도는 무엇인가?
• RQ2 도메인 전문 지식을 활용해 DIU 집합을 DDU 집합으로 변환할 때, 이는 해의 품질 향상이나 계산 성능 향상에 기여하는가?
• RQ3 결정에 의존하는 불확실성을 포함하는 DDU 기반 이단계 RO의 반복 복잡도는 결정에 의존하지 않는 불확실성(DIU) 기반 대비 어떻게 다른가? (특히 DDU가 의사결정에 따라 변화한다는 점을 고려하여)
• RQ4 결정에 의존하는 불확실성(DDU) 하에서 이단계로보수 최적화 문제의 구조적 성질은 무엇이며, DIU 공식화와 어떻게 다를까?
• RQ5 비선형 후속 조치(예: 2차원 원추)와 비선형 불확실성 집합은 제안된 알고리즘의 계산 성능와 확장성에 어떤 영향을 미치는가?

주요 결과

• 제안된 C&CG 변형은 DDU를 가진 이단계로보수 최적화 문제를 정확히 해결할 수 있으며, 선형 프로그래밍 이론에 기반한 엄밀한 수렴성과 반복 복잡도 분석이 가능하다.
• DDU의 추가적인 복잡도에도 불구하고 제안된 알고리즘의 반복 복잡도는 DIU 기반 대비 더 높지 않으며, 이는 DDU가 본질적으로 더 어렵다는 일반적인 가정에 도전한다.
• 도메인 전문 지식('딥 노우지')을 활용해 DIU 불확실성 집합을 DDU 집합으로 변환하면, DDU 공식화가 더 표현력이 뛰어나지만 해의 품질 향상에 상당한 기여를 할 수 있다.
• 2차원 원추(SOC) 후속 조치 문제의 계산 부담은 선형 후속 조치 대비 평균적으로 약 두 배수 정도 높지만, C&CG 반복 횟수는 여전히 낮다.
• SOC 기반 불확실성 집합은 SOC 후속 조치 문제만큼 계산 비용 증가가 크지 않아, 비선형 DDU 문제에서 후속 조치 문제가 주요 성능 저하 요인임을 시사한다.
• 알고리즘은 비선형 구조에서의 파라미터 설정에 매우 민감하게 반응하므로, 대규모 인스턴스에 대해서는 선형 또는 다각형 공식화가 더 안정적이고 확장 가능하다.