[논문 리뷰] Online Mixed-Integer Optimization in Milliseconds

Dimitris Bertsimas, Bartolomeo Stellato|arXiv (Cornell University)|2019. 07. 04.

Advanced Bandit Algorithms Research인용 수 15

한 줄 요약

이 논문은 연료전지 관리 및 운동 계획과 같은 실제 문제에서 1ms 이내로 온라인 혼합정수이차최적화(MIQO) 문제를 해결하는 데 기계학습 기반 방법인 MLOPT을 제안한다. 최적 해를 '전략'으로 인코딩하고 신경망을 사용해 이를 예측함으로써 온라인 단계를 단일 사전 분해된 선형 시스템 해법으로 줄였으며, Gurobi 대비 실세계 문제에서 2–3개 주기수의 속도 향상을 달성한다.

ABSTRACT

We propose a method to solve online mixed-integer optimization (MIO) problems at very high speed using machine learning. By exploiting the repetitive nature of online optimization, we are able to greatly speedup the solution time. Our approach encodes the optimal solution into a small amount of information denoted as strategy using the Voice of Optimization framework proposed in [BS21]. In this way the core part of the optimization algorithm becomes a multiclass classification problem which can be solved very quickly. In this work, we extend that framework to real-time and high-speed applications focusing on parametric mixed-integer quadratic optimization (MIQO). We propose an extremely fast online optimization algorithm consisting of a feedforward neural network (NN) evaluation and a linear system solution where the matrix has already been factorized. Therefore, this online approach does not require any solver nor iterative algorithm. We show the speed of the proposed method both in terms of total computations required and measured execution time. We estimate the number of floating point operations (flops) required to completely recover the optimal solution as a function of the problem dimensions. Compared to state-of-the-art MIO routines, the online running time of our method is very predictable and can be lower than a single matrix factorization time. We benchmark our method against the state-of-the-art solver Gurobi obtaining from two to three orders of magnitude speedups on examples from fuel cell energy management, sparse portfolio optimization and motion planning with obstacle avoidance.

연구 동기 및 목표

• 실시간 고속 온라인 혼합정수이차최적화(MIQO) 문제를 해결할 수 있도록 하는 것.
• 온라인 실행 중 반복적 해법이나 행렬 분해에 의존하지 않도록 하는 것.
• 낮은 부분최적성 및 비가능성 수준을 유지하면서 밀리초 이내의 해법 시간을 달성하는 프레임워크를 개발하는 것.
• 운동 계획 및 에너지 관리와 같은 시간이 중요한 응용 분야에 실용적인 온라인 MIO를 제공하는 것.
• 입력 매개변수에 관계없이 고정된 부동소수점 연산 복잡도를 통해 예측 가능하고 분석 가능한 온라인 계산 시간을 확보하는 것.

제안 방법

• 매개변수화된 MIQO 문제에 대해 최적 해를 이산적 '전략'으로 인코딩하기 위해 Optimization의 Voice 프레임워크를 사용한다.
• 문제 매개변수에서 최적 전략을 예측하기 위해 순방향 신경망을 활용한다.
• 최종 해법 단계를 사전에 분해된 KKT 행렬을 사용한 단일 선형 시스템 해법으로 대체하여 런타임 시 행렬 분해를 회피한다.
• 대규모 MILO 근사화를 통해 '전략 정제'를 적용하여 전략 수를 100–10,000개로 줄이고 부분최적성 및 비가능성을 제어한다.
• 모든 가능한 전략에 대해 사전에 분해된 KKT 행렬을 오프라인으로 캐시하여 런타임에 순수 행렬-벡터 연산만을 수행한다.
• 입력 매개변수에 영향을 받지 않는 정확한 부동소수점 연산(flop) 수를 유도하여 예측 가능한 실행 시간을 보장한다.

실험 결과

연구 질문

• RQ1 기계학습을 사용해 온라인 MIQO 문제를 1ms 이내로 해결할 수 있는가?
• RQ2 신경망 기반 전략 예측기로 온라인 MIQO에서 반복적 해법이 필요 없도록 할 수 있는가?
• RQ3 전략 수를 줄이면서도 해 품질을 유지하기 위해 전략 정제는 어떻게 수식화하고 효율적으로 해결할 수 있는가?
• RQ4 온라인 단계의 정확한 계산 복잡도는 무엇이며, 분할정복 방법과 비교해 볼 때 어떻게 되는가?
• RQ5 제안된 방법이 실시간 응용 분야에서 최신 솔버인 Gurobi보다 현저한 속도 향상을 달성할 수 있는가?

주요 결과

• MLOPT는 온라인 해법 시간이 1ms 이하이며, 운동 계획 및 연료전지 문제에서 Gurobi 대비 측정된 실행 시간이 최대 1,000배 빠르다.
• 방법은 온라인 계산을 단일 사전 분해된 선형 시스템 해법으로 줄였으며, 런타임에 행렬 분해나 반복 최적화가 전혀 필요 없다.
• 모든 벤치마크 문제에서 MLOPT는 Gurobi의 휴리스틱 해와 비교해 유사하거나 더 낮은 부분최적성을 유지하며, 비가능성은 허용 가능한 허용 오차 수준 내에 있다.
• 전략 정제를 통해 전략 수를 100–10,000개로 줄였지만 평균 부분최적성 및 비가능성은 사용자 정의 허용 오차 내에 유지된다.
• 총 부동소수점 연산 수는 정확히 경계되어 있으며 입력 매개변수에 영향을 받지 않아 예측 가능하고 신뢰할 수 있는 성능을 보장한다.
• 10개의 장애물이 있는 운동 계획 문제에서 MLOPT는 평균 0.0614초에 문제를 해결했으며, Gurobi는 809초가 소요되어 13,000배의 속도 향상을 달성했다.