[논문 리뷰] Tutorials on Advanced Optimization Methods

Wei Wei|arXiv (Cornell University)|2020. 07. 19.

Risk and Portfolio Optimization참고 문헌 134인용 수 16

한 줄 요약

이 튜토리얼은 복잡한 비볼록 및 다중 에이전트 공학 문제를 해결하기 위해 볼록 최적화, 강건 및 분포로 불확실성 최적화, 평형 문제, 혼합정수선형계획법(MILP)과 같은 고급 최적화 기법을 제시한다. 비볼록 문제를 솔버 호환 형식인 준정규형 또는 혼합정수선형계획형으로 재구성함으로써 상용 또는 오픈소스 솔버를 통해 신뢰성 있게 해를 구할 수 있도록 중점을 두고 있다.

ABSTRACT

This material provides thorough tutorials on some optimization techniques frequently used in various engineering disciplines, including convex optimization, linearization techniques and mixed-integer linear programming, robust optimization, and equilibrium/game problems. It discusses how to reformulate a difficult (non-convex, multi-agent, min-max) problem to a solver-compatible form (semidefinite program, mixed-integer linear program) via convexification, linearization, and decomposition, so the original problem can be reliably solved by commercial/open-source software. Fundamental algorithms are not the main focus. This material is a good reference for self-learners who have basic knowledge in linear algebra and linear programming. It is one of the main references for an optimization course taught at Tsinghua University.

연구 동기 및 목표

• 에너지 시스템 및 공학 적용 분야의 연구자와 자율 학습자들에게 최적화 분야에 대한 종합적인 참고 자료를 제공하기 위해.
• 비볼록 최적화 문제와 솔버 간 격차를 메우기 위해 SDP, MILP 또는 콘형 프로그램과 같은 표준 형식으로 문제를 재구성할 수 있도록 하기 위해.
• 에너지 인프라의 상호의존성 모델링에서 실용적인 문제 해결을 지원하기 위해 체계적인 형식화 레시피를 제공하기 위해.
• 특히 퀘이화 대학교에서의 graduate-level 최적화 수업을 위한 기초 자료로 기능하기 위해.
• 비볼록 QCQP, 보완 제약 조건, 평형 게임 등 도전적인 문제들을 해결 가능한 형태로 변환하기 위한 실용적 도구를 제공하기 위해.

제안 방법

• 비볼록 이차제약을 가진 이차형 최적화 문제(QCQPs)를 근사하기 위해 준정규형 프로그래밍(SDP) 및 완전 양의 프로그래밍(Completely Positive Program)의 풀이 기법을 포함한 볼록 완화 기법을 활용한다.
• 비볼록 문제에 대해 해의 품질과 수렴성을 향상시키기 위해 점진적인 완화 강화 기법을 적용한다.
• 비볼록 함수, 이차항 및 논리 제약 조건을 모델링하기 위해 선형화 및 혼합정수선형계획법(MILP) 형식을 활용한다.
• 일변수 및 이변수 경우를 포함한 비선형 함수의 조각별 선형 근사 형식 레시피를 소개한다.
• 와서르슈타인 거리 기반 재구성 기법을 활용한 정적, 조정 가능, 분포로 불확실성 최적화 모델을 포함한 강건 최적화 프레임워크를 적용한다.
• 전기 시장에서의 나시 평형 및 다중 리더-팔로워 게임을 모델링하기 위해 변분부등식 및 보완 제약 기반 형식을 적용한다.

실험 결과

연구 질문

• RQ1 에너지 시스템에서의 비볼록 최적화 문제는 어떻게 볼록 최적화 또는 혼합정수선형계획형으로 재구성되어 신뢰성 있게 해를 구할 수 있는가?
• RQ2 혼합정수선형계획법을 활용해 비선형 및 이차항을 효과적으로 근사하는 기법은 무엇인가?
• RQ3 불확실성 하에서 강건 및 분포로 불확실성 최적화 모델은 어떻게 효율적으로 재구성할 수 있는가?
• RQ4 보완 제약 조건과 평형 형식은 전력 시장에서의 다중 에이전트 상호작용을 모델링하는 데 어떤 역할을 하는가?
• RQ5 평형 제약 조건이 있는 평형 문제(EPECs) 또는 평형 제약 조건이 있는 수학적 프로그래밍(MPECs)은 브랜치 앤 컷 또는 호모토피 방법을 통해 어떻게 해결할 수 있는가?

주요 결과

• SDP 완화는 특정 조건 하에서 최적성에 대한 이론적 보장을 제공하며, 비볼록 QCQPs에 대해 날카롭고 솔버 호환 가능한 재구성 형식을 제공한다.
• 완화의 점진적 강화는 비볼록 문제의 해 품질을 크게 향상시키며, 이중성 갭을 감소시킨다.
• 비볼록 이차형 최적화 문제에 대한 MILP 근사화는 특히 다각형 영역에서 높은 정확도를 달성한다.
• 와서르슈타인 거리 기반의 강건 최적화 모델은 데이터 기반의 분포로 불확실성 최적화를 가능하게 하며, 계산적으로 처리 가능하다.
• 보완 제약 조건이 있는 평형 문제(MPECs)는 브랜치 앤 컷 및 호모토피 방법을 통해 해결 가능하며, 특정 가정 하에서 수렴 보장을 갖는다.
• 변분부등식 및 보완 조건 기반 형식을 통한 다중 리더-팔로워 게임 및 나시 평형의 형식화는 전기 시장에서의 전략적 행동을 모델링할 수 있게 한다.