[논문 리뷰] BilevelJuMP.jl: Modeling and Solving Bilevel Optimization in Julia

Joaquim Dias Garcia, Guilherme Bodin외 1명|arXiv (Cornell University)|2022. 05. 04.

Advanced Optimization Algorithms Research인용 수 6

한 줄 요약

BilevelJuMP.jl는 JuMP의 대수적 구문을 사용하여 이중 최적화 문제를 모델링하고 해결할 수 있는 Julia 패키지로, 상위 및 하위 수준에서 원뿔, 이차, 비선형 및 정수 제약 조건을 지원합니다. 이 패키지는 강력한 이중성, big-M, 제품 방법 등의 MPEC 재구성 기법을 활용하며, Ipopt, SCIP, Xpress 등의 솔버와 통합되어 오프더쇼프 MIP 및 NLP 솔버를 통해 복잡한 이중 모델을 신속하게 프로토타이핑하고 해결할 수 있도록 합니다.

ABSTRACT

In this paper we present BilevelJuMP, a new Julia package to support bilevel optimization within the JuMP framework. The package is a Julia library that enables the user to describe both upper and lower-level optimization problems using the JuMP algebraic syntax. Due to the generality and flexibility our library inherits from JuMP's syntax, our package allows users to model bilevel optimization problems with conic constraints in the lower level and all JuMP supported constraints in the upper level (Conic, Quadratic, Non-Linear, Integer, etc.). Moreover, the user-defined problem can be subsequently solved by various techniques relying on mathematical program with equilibrium constraints (MPEC) reformulations. Manipulations on the original problem data are possible due to MathOptInterface.jl's structures and Dualization.jl features. Hence, the proposed package allows quickly model, deploy, and thereby experiment bilevel models based on off-the-shelf mixed integer linear programming and nonlinear solvers.

연구 동기 및 목표

• 기존의 대수적 모델링 언어에서 이중 최적화에 대한 민첩하고 고수준의 모델링 지원이 부족한 문제를 해결하기 위해.
• 사용자가 JuMP의 직관적인 문법을 사용하여 하위 수준에 원뿔 제약 조건을 포함하고 상위 수준에 다양한 종류의 제약 조건을 가진 이중 문제를 표현할 수 있도록 하기 위해.
• 강력한 이중성, big-M, 제품 및 혼합 모드와 같은 다양한 재구성 기법을 지원하는 통합 인터페이스를 제공하여 이중 문제를 단일 수준 문제로 변환하기 위해.
• MathOptInterface 및 Dualization.jl 를 통해 기존의 솔버들(Ipopt, SCIP, Xpress)과 통합되어, MIP 및 NLP 솔버를 활용해 빠르게 프로토타이핑과 실험을 수행할 수 있도록 하기 위해.
• 변수의 경계가 제한되어 있거나 없는 경우에도 자동으로 재구성 및 변환을 수행하는 패키지(예: QuadraticToBinary)를 통해 정수 및 비선형 이중 문제를 지원하기 위해.

제안 방법

• Upper() 및 Lower() 스코프를 사용하여 상위 및 하위 수준 최적화 문제를 명시적으로 분리하여 JuMP의 대수적 구문을 사용해 정의합니다.
• MathOptInterface.jl 을 활용해 문제의 구조를 추상적으로 표현하고 조작함으로써, 재구성 과정과 솔버 인터페이스를 투명하게 처리할 수 있도록 합니다.
• 강력한 이중성, Fortuny-Amat-McCarl의 big-M, 제품 기반 방법 등 MPEC 재구성 기법을 적용하여 이중 문제를 단일 수준 문제로 변환합니다.
• SecondOrderCone() 및 SOCtoNonConvexQuad와 같은 다리(브릿지)를 통해 하위 수준의 원뿔 제약 조건을 NLP 솔버가 처리할 수 있는 이차 형식으로 매핑합니다.
• MixedMode를 사용하여 각 제약 조건에 대해 서로 다른 재구성 전략(예: 인디케이터 제약 조건, 제품 재구성)을 허용함으로써 혼합 모드 재구성 전략을 지원합니다.
• 변수 경계와 이중 확장 처리를 자동으로 수행하는 메타-솔버(예: QuadraticToBinary.Optimizer)를 통해 외부 솔버와 통합합니다.

실험 결과

연구 질문

• RQ1 Julia의 고수준 대수적 모델링 언어를 사용하여 하위 수준에 원뿔 제약 조건이 포함된 이중 최적화 문제를 효과적으로 모델링하고 해결할 수 있는가?
• RQ2 이중 문제를 오프더쇼프 솔버에 적합한 단일 수준 문제로 변환하기 위해 가장 효과적인 재구성 전략(예: 강력한 이중성, big-M, 제품 기반)은 무엇인가?
• RQ3 이중 목표 함수의 이차형 항에 대해 자동 변수 경계 설정 및 이중 확장 기법이 얼마나 문제의 해법 가능성(tractability)을 향상시킬 수 있는가?
• RQ4 다양한 재구성 기법(예: 인디케이터 제약 조건 및 제품 재구성)을 조합할 수 있는 혼합 모드 재구성 전략은 어떻게 구현할 수 있는가?
• RQ5 Julia에서 고급 모델링 및 재구성 도구를 통합하면 다양한 애플리케이션 영역에서 이중 모델의 프로토타이핑과 구현 속도가 어떻게 향상될 수 있는가?

주요 결과

• BilevelJuMP.jl는 JuMP 문법을 사용하여 하위 수준에 원뿔 제약 조건이 포함되고 상위 수준에 다양한 종류의 제약 조건(원뿔, 이차, 비선형, 정수)이 포함된 이중 문제의 모델링을 성공적으로 지원합니다.
• 강력한 이중성, big-M, 제품 기반 방법 등 다양한 MPEC 재구성 기법을 모듈러 인터페이스를 통해 제공하여 사용자가 문제에 가장 적합한 전략을 선택할 수 있도록 합니다.
• MOI 브릿지(예: SOCtoNonConvexQuad)를 통해 Ipopt 및 SCIP 솔버와 통합되어, 재구성 후 이차 원뿔 제약 조건이 포함된 문제를 NLP 기반으로 해결할 수 있습니다.
• MixedMode 재구성 전략은 서로 다른 재구성 기법(예: 선형 제약 조건에 대한 인디케이터 제약 조건, 원뿔 제약 조건에 대한 제품 재구성)을 성공적으로 조합하여, MISOCP 솔버를 통해 정수 및 비선형 이중 문제를 해결할 수 있도록 합니다.
• QuadraticToBinary.Optimizer 를 통한 자동 변수 경계 설정 및 이중 확장 기법을 통해, 변수에 명시적인 경계가 없더라도 상위 목표 함수의 이차형 항을 안정적으로 처리할 수 있습니다.
• Chi 등(2014)의 원뿔 이중 문제를 포함한 작동 예제를 통해 실용적인 사용성을 입증하였으며, NLP 및 MIP 기반 재구성 전략을 모두 사용하여 정확한 수렴성과 해 품질을 확보하였습니다.