[논문 리뷰] A Survey for Solving Mixed Integer Programming via Machine Learning

Jiayi Zhang, Chang Liu외 4명|arXiv (Cornell University)|2022. 03. 06.

Scheduling and Optimization Algorithms인용 수 13

한 줄 요약

이 종합 검토는 혼합정수계획법(MIP) 문제를 해결하기 위한 기계학습(ML) 기법을 검토하며, 분할정복 및 휴리스틱 알고리즘에 ML을 통합하여 해결 품질과 효율성을 향상시키는 데 초점을 맞춘다. 학습 기반의 노드 선택, 해 예측, 휴리스틱 강화 방법을 제시하며, 실용적인 MIP 응용에서 계산 비용을 크게 줄이면서도 높은 품질의 해를 유지하는 데 ML이 기여할 수 있음을 입증한다.

ABSTRACT

This paper surveys the trend of leveraging machine learning to solve mixed integer programming (MIP) problems. Theoretically, MIP is an NP-hard problem, and most of the combinatorial optimization (CO) problems can be formulated as the MIP. Like other CO problems, the human-designed heuristic algorithms for MIP rely on good initial solutions and cost a lot of computational resources. Therefore, we consider applying machine learning methods to solve MIP, since ML-enhanced approaches can provide the solution based on the typical patterns from the historical data. In this paper, we first introduce the formulation and preliminaries of MIP and several traditional algorithms to solve MIP. Then, we advocate further promoting the different integration of machine learning and MIP and introducing related learning-based methods, which can be classified into exact algorithms and heuristic algorithms. Finally, we propose the outlook for learning-based MIP solvers, direction towards more combinatorial optimization problems beyond MIP, and also the mutual embrace of traditional solvers and machine learning components.

연구 동기 및 목표

• 혼합정수계획법(MIP) 문제를 해결하는 데 있어 기계학습 응용에 대한 종합적이고 최신의 검토를 제공하는 것.
• 정확한 방법(예: 분할정복)과 휴리스틱 접근 방식을 기계학습과 융합하여 MIP 해결 효율성을 향상시키는 분석을 수행하는 것.
• 기존 MIP 솔버와 학습 기반 구성 요소를 융합하기 위한 핵심 연구 방향을 규명하는 것, 특히 정책 학습과 조기 정지 기법을 포함하여.
• 엔드 투 엔드 학습과 강화학습 기반 MIP 해결을 가능하게 하는 신개념 프레임워크인 MIPLearn, Ecole, ORGym 등을 부각하는 것.
• 전통적인 MIP 솔버와 기계학습 구성 요소 간 상호 통합을 촉진하여 조합 최적화 분야의 발전을 이끌어내는 것.

제안 방법

• 기계학습을 강화한 MIP 솔버를 정확한 알고리즘(예: 분할정복에서의 학습 기반 노드 선택)과 휴리스틱 알고리즘(예: 강화학습을 통한 탈락 허용 휴리스틱)으로 분류한다.
• 다음 단계 행동을 학습함으로써 가장 가까운 타당해를 기반으로 하는 것에 의존하지 않고, 타당해 향한 해 탐색을 강화학습으로 안내하는 방법을 제안한다.
• 딥러닝 모델(Multi-Layer Perceptron과 컬러넷)을 사용해 MIP 문제 상태를 표현함으로써 강화학습 에이전트가 제약 행렬과 경계 조건을 입력으로 처리할 수 있도록 한다.
• 모의 학습을 활용해 휴리스틱 행동(예: 분할 변수 선택, 초기 해 조정 등)을 모방하는 모델을 훈련시킨다.
• Ecole와 MIPLearn와 같은 프레임워크를 활용해 기계학습 구성 요소를 오픈소스 MIP 솔버(예: SCIP, CPLEX, GUROBI)와 통합하여 엔드 투 엔드 학습을 가능하게 한다.
• 기계학습을 통한 조기 정지를 적용하여 현재 해가 수용 가능할 경우 분할정복 과정을 종료함으로써 계산 자원을 절약한다.

실험 결과

연구 질문

• RQ1 기계학습은 기존의 분할정복 알고리즘에 어떻게 효과적으로 통합되어 MIP 해법의 효율성을 향상시킬 수 있는가?
• RQ2 강화학습은 MIP 해법에서 휴리스틱 방법(예: 타당해 향한 접근)을 얼마나 향상시킬 수 있는가?
• RQ3 기계학습 모델은 고급도의 초기 해나 불필요한 제약 조건을 예측하여 MIP 문제 크기를 줄이고 해법 속도를 높일 수 있는가?
• RQ4 학습 기반 방법은 문제 인스턴스의 특성에 따라 정확한 해법과 휴리스틱 해법 간의 선택을 어떻게 수행할 수 있는가?
• RQ5 실제 응용에서 ML 강화 MIP 솔버를 훈련하고 배포하기 위한 가장 유망한 프레임워크와 라이브러리는 무엇인가?

주요 결과

• 강화학습은 타당해 향한 다음 단계 선택과 같은 휴리스틱 선택을 대체할 수 있으며, 이는 수렴 속도 향상과 더 나은 해 품질을 이끌어낸다.
• MIP 제약 행렬을 이미지로 처리하기 위해 컬러넷을 사용하면 상태 표현이 향상되고, MIP 해법을 위한 강화학습 정책 학습이 강화된다.
• 기계학습 기반의 조기 정지는 해 품질을 훼손하지 않으면서도 분할정복 과정의 계산 비용을 크게 줄인다.
• KNN 기반의 불필요한 제약 조건 및 아핀 부분공간 예측은 MIP 문제 크기를 줄이며, 유닛 커밋먼트와 같은 실세계 응용에서 해법 시간을 가속화한다.
• MIPLearn와 Ecole와 같은 프레임워크는 ML 강화 MIP 솔버의 엔드 투 엔드 학습을 가능하게 하여 확장성 있고 적응 가능한 최적화 시스템의 강력한 잠재력을 보여준다.
• 기계학습과 기존 솔버(예: CPLEX, GUROBI)를 하이브리드 아키텍처로 융합하면 제약 조건과 목표 함수를 함께 학습할 수 있으며, 미분 가능한 조합 최적화를 가능하게 한다.