[논문 리뷰] The Machine Learning for Combinatorial Optimization Competition (ML4CO): Results and Insights

Maxime Gasse, Quentin Cappart외 39명|arXiv (Cornell University)|2022. 03. 04.

Vehicle Routing Optimization Methods인용 수 7

한 줄 요약

이 논문은 기계학습을 활용한 조합 최적화 경쟁(ML4CO)을 제시하며, 정확한 해법기에서 히ュ리스틱 구성요소를 대체하기 위해 기계학습 모델을 평가한 내용을 담고 있다. 세 가지 과제인 타당해 찾기, 날카로운 최적성 증명서 생성, 해법기 파라미터 설정에서의 성능 향상을 다루었다. 경쟁 결과, 특히 파arameter 튜닝을 위한 베이지안 최적화 기반 기계학습 접근법이 실제 실세계의 MILP 벤치마크에서 SCIP 해법기 성능을 최대 2.33배 향상시켰다.

ABSTRACT

Combinatorial optimization is a well-established area in operations research and computer science. Until recently, its methods have focused on solving problem instances in isolation, ignoring that they often stem from related data distributions in practice. However, recent years have seen a surge of interest in using machine learning as a new approach for solving combinatorial problems, either directly as solvers or by enhancing exact solvers. Based on this context, the ML4CO aims at improving state-of-the-art combinatorial optimization solvers by replacing key heuristic components. The competition featured three challenging tasks: finding the best feasible solution, producing the tightest optimality certificate, and giving an appropriate solver configuration. Three realistic datasets were considered: balanced item placement, workload apportionment, and maritime inventory routing. This last dataset was kept anonymous for the contestants.

연구 동기 및 목표

• 기계학습이 문제 특화 데이터 분포에 기반해 훈련될 경우, 기존의 조합 최적화 해법기 성능을 향상시킬 수 있는지 조사하기 위해.
• 일일 에너지 그룹 관리나 라우팅과 같은 반복적이고 유사한 최적화 문제를 일반 목적 해법기보다 효율적으로 해결하는 데 실용적인 과제를 해결하기 위해.
• 실제 실세계의 MILP 벤치마크를 사용하여 세 가지 별도 과제인 원시해 찾기, 이중 분할 결정, 해법기 설정에 대해 기계학습 모델을 평가하기 위해.
• Ecole 기반의 OpenAI Gym 유사 API를 통해 표준화된 벤치마킹 프레임워크를 제공하여 다양한 산업 응용 분야에서 재현 가능한 평가를 가능하게 하기 위해.
• Google와 익명 산업 라우팅 문제에서 유래한 실제 데이터셋을 활용한 경쟁을 통해 데이터 기반 최적화 분야의 혁신을 촉진하기 위해.

제안 방법

• 경쟁은 Ecole 라이브러리를 기반으로 한 통합 API를 사용하였으며, SCIP MIP 해법기 내에서 세 가지 제어 과제를 노출시켰다: 원시, 이중, 설정.
• 참가자들은 세 가지 공개 MILP 벤치마크에서 모델을 훈련시켰다: 균형 잡힌 항목 배치, 워크로드 분할, 익명 해상 운송 재고 라우팅.
• 설정 과제의 경우, 이중 수준의 베이지안 최적화 접근법을 사용하였다: 검색 공간이 k개의 하위 공간으로 분할되었고, 각 하위 공간은 별도로 서면 모델과 목적 함수를 사용하여 최적화되었다.
• Gini 중요도를 활용하여 XGBoost 관측기를 도입하여 검색 공간을 정밀 조정함으로써 관련 없는 파라미터를 줄이고 최적화 효율성을 향상시켰다.
• 목적 함수는 후보 파라미터 세트로 SCIP를 설정한 후, 모든 테스트 인스턴스에 대해 평균 원시-이중 갭 적분을 기반으로 평가되었다.
• 이 방법은 SCIP 기본 설정을 기반으로 한 완전한 솔루션 초기화를 사용하였으며, 각 하위 공간의 부분 최적 설정을 조합하여 글로벌 최고 솔루션을 반복적으로 업데이트하였다.

실험 결과

연구 질문

• RQ1 기계학습 모델이 문제 분포에 대해 훈련될 경우, 정확한 조합 최적화 해법기의 핵심 히ュ리스틱 구성요소를 효과적으로 대체하여 성능 향상을 이룰 수 있는가?
• RQ2 실제 실세계의 MILP 인스턴스에서 기계학습 기반 초파라미터 튜닝이 기본 해법기 설정보다 얼마나 뛰어나게 성능을 향상시킬 수 있는가?
• RQ3 다양한 구조와 규모를 가진 실제 실세계 최적화 문제에 대해 기계학습 강화 기반 접근법의 견고성은 어떠한가?
• RQ4 전이 학습 또는 메타 최적화 기법이 동일한 응용 분야 내 다양한 문제 유형 간 일반화 능력을 향상시킬 수 있는가?
• RQ5 데이터 기반 모델 설계는 혼합정수계획법에서 원시해 및 이중해의 효율성과 품질에 어떤 영향을 미치는가?

주요 결과

• 최고 성능을 보인 설정 방법은 워크로드 분할 벤치마크에서 SCIP 기본 파라미터 대비 원시-이중 갭 감소율을 2.33배 향상시켰다.
• 익명 해상 운송 재고 라우팅 데이터셋에서는 튜닝된 설정이 원시-이중 갭을 1.55배 감소시켜 복잡한 실제 문제에서 뛰어난 성능을 입증하였다.
• 원시 과제에 12개, 이중 과제에 23개, 설정 과제에 15개의 참가 제출이 있었으며, 이는 이 분야에 대한 높은 연구 관심을 반영하고 있다.
• XGBoost 기반 특성 중요도와 베이지안 최적화의 조합은 효과적인 검색 공간을 크게 좁혀 수렴성과 솔루션 품질을 향상시켰다.
• 실제 산업 응용에서 유래한 익명 데이터셋은 여러 인스턴스에서 일관된 성능 향상을 보이며, 이 방법의 견고성을 검증하였다.
• 결과적으로, 역사적 문제 인스턴스에 기반해 훈련된 데이터 기반, 응용 분야 특화 기계학습 모델이 일반 목적 해법기보다 뚜렷이 뛰어난 성능을 보임을 확인하였다.