[논문 리뷰] Optimal Solution Predictions for Mixed Integer Programs

Jian-Ya Ding, Chao Zhang외 5명|arXiv (Cornell University)|2019. 06. 23.

Vehicle Routing Optimization Methods참고 문헌 12인용 수 7

한 줄 요약

이 논문은 혼합정수계획법(MIP)에서 이진변수의 최적값을 예측하기 위해 삼분할 그래프 표현과 그래프 컬러리션 네트워크(GCN)를 사용하는 그래프 기반 기계학습 프레임워크를 제안한다. 반복적으로 나타나는 MIP 인스턴스 간의 구조적 유사성을 활용하여 국소 브랜칭 컷을 생성함으로써, 여덟 가지 문제 유형에서 최신 MIP 솔버에서 원시해(Primal solution) 확보 성능을 크게 향상시킨다.

ABSTRACT

Mixed Integer Programming (MIP) is one of the most widely used modeling techniques for combinatorial optimization problems. In many applications, a similar MIP model is solved on a regular basis, maintaining remarkable similarities in model structures and solution appearances but differing in formulation coefficients. This offers the opportunity for machine learning methods to explore the correlations between model structures and the resulting solution values. To address this issue, we propose to represent an MIP instance using a tripartite graph, based on which a Graph Convolutional Network (GCN) is constructed to predict solution values for binary variables. The predicted solutions are used to generate a local branching type cut which can be either treated as a global (invalid) inequality in the formulation resulting in a heuristic approach to solve the MIP, or as a root branching rule resulting in an exact approach. Computational evaluations on 8 distinct types of MIP problems show that the proposed framework improves the primal solution finding performance significantly on a state-of-the-art open-source MIP solver.

연구 동기 및 목표

• 동일한 구조를 가지지만 계수는 다를 수 있는 유사한 MIP 인스턴스를 반복적으로 해결하는 데 도전하는 것.
• MIP 인스턴스 간의 구조적 및 해의 유사성을 활용하여 기계학습을 통해 해법 효율을 향상시키는 것.
• 이진변수 해를 정확하게 예측하여 MIP 해법을 히우리스틱 또는 정확한 방법으로 이끌어내는 방법을 개발하는 것.
• 학습된 예측 결과를 브랜칭 규칙 또는 컷으로 통합하여 MIP 해법 프로세스에 통합함으로써 성능 향상을 이루는 것.

제안 방법

• 제약조건, 변수 및 그들 간의 관계를 포괄하는 삼분할 그래프로 각 MIP 인스턴스를 표현하는 것.
• 이진변수의 최적값을 예측하기 위해 삼분할 그래프에 기반한 그래프 컬러리션 네트워크(GCN)를 훈련하는 것.
• 예측된 해를 바탕으로 국소 브랜칭 유형의 컷을 생성하여 히우리스틱 부등식 또는 루트 브랜칭 규칙으로 기능시키는 것.
• 예측된 컷을 MIP 솔버에 전역 제약조건(히우리스틱) 또는 브랜칭 규칙(정확한 방법)으로 통합하는 것.
• 반복되는 MIP 인스턴스 간의 구조적 일관성을 활용하여 GCN 모델의 일반화 능력을 높이는 것.
• 다양한 MIP 문제에 프레임워크를 적용하여 안정성과 성능 향상 여부를 평가하는 것.

실험 결과

연구 질문

• RQ1 삼분할 그래프 표현을 기반으로 훈련된 GCN 모델이 MIP 인스턴스의 최적 이진변수 값을 효과적으로 예측할 수 있는가?
• RQ2 예측된 해가 원시해 품질 및 수렴 속도 측면에서 MIP 해법 성능에 어떤 영향을 미치는가?
• RQ3 기존의 MIP 기법에 비해 학습된 컷 또는 브랜칭 규칙이 해법 성능 향상에 어느 정도 기여하는가?
• RQ4 다양한 제약조건 계수를 가진 다양한 MIP 문제 유형에 대해 프레임워크가 일반화 가능한가?

주요 결과

• 제안된 GCN 기반 프레임워크는 최신 오픈소스 MIP 솔버에서 원시해 확보 성능을 크게 향상시킨다.
• 이 방법은 여덟 가지의 서로 다른 MIP 문제 유형에서 성능 향상을 달성하여 광범위한 적용 가능성을 입증한다.
• 예측된 해를 바탕으로 생성된 국소 브랜칭 컷은 고품질의 원시해에 빠르게 수렴하는 데 기여한다.
• 프레임워크는 히우리스틱 및 정확한 해법 모드를 모두 지원하며, 후자의 경우 해의 최적성을 유지한다.
• 삼분할 그래프 표현은 MIP 모델와 그 해 사이의 구조적 상관관계를 효과적으로 포착한다.
• 반복되는 MIP 인스턴스에서 나타나는 공통적인 구조적 패턴을 활용하여 학습 및 예측 정확도를 향상시킨다.