[논문 리뷰] A General Large Neighborhood Search Framework for Solving Integer Linear Programs

Jialin Song, Ravi Lanka외 2명|arXiv (Cornell University)|2020. 03. 29.

Constraint Satisfaction and Optimization인용 수 28

한 줄 요약

이 논문은 기존의 ILP 솔버(예: Gurobi)를 블랙박스 서브루틴으로 사용하여, 나머지 변수는 고정하면서 부분 집합의 변수를 반복적으로 최적화하는 방식으로 정수선형계획문제(ILPs)를 해결하기 위한 일반적인 대규모 이웃 탐색(LNS) 프레임워크를 제안한다. 이 프레임워크는 타깃 학습과 강화학습을 활용하여 최적의 변수 분할 전략을 학습하여, 다양한 벤치마크에서 Gurobi 대비 상당한 벽시계 성능 향상을 이룬다. 특히 CATS 인스턴스에서는 최대 50% 향상된 성능을 기록한다.

ABSTRACT

This paper studies a strategy for data-driven algorithm design for large-scale combinatorial optimization problems that can leverage existing state-of-the-art solvers in general purpose ways. The goal is to arrive at new approaches that can reliably outperform existing solvers in wall-clock time. We focus on solving integer programs, and ground our approach in the large neighborhood search (LNS) paradigm, which iteratively chooses a subset of variables to optimize while leaving the remainder fixed. The appeal of LNS is that it can easily use any existing solver as a subroutine, and thus can inherit the benefits of carefully engineered heuristic or complete approaches and their software implementations. We show that one can learn a good neighborhood selector using imitation and reinforcement learning techniques. Through an extensive empirical validation in bounded-time optimization, we demonstrate that our LNS framework can significantly outperform compared to state-of-the-art commercial solvers such as Gurobi.

연구 동기 및 목표

• 대규모 ILPs를 해결하기 위한 일반적이고 데이터 기반의 프레임워크를 설계하여, 벽시계 시간 측면에서 최신 상용 솔버를 능가하는 성능을 달성하는 것.
• 기존 고성능 ILP 솔버(Gurobi 등)를 새로운 탐색 프레임워크 내에서 블랙박스 서브루틴으로 통합할 수 있도록 하는 것.
• 기존 솔버 내부에 깊이 통합이 필요한 전통적인 학습 기반 탐색 방법의 한계를 극복하고, 성능가 낮은 오픈소스 솔버에 국한되는 제약을 제거하는 것.
• 영역에 특화된 지식 없이도 타깃 학습과 강화학습을 통해 변수 이웃 선택 전략을 학습함으로써 상당한 성능 향상을 이끌어낼 수 있음을 보여주는 것.

제안 방법

• 프레임워크는 대규모 이웃 탐색(LNS)을 활용하며, 이는 반복적으로 정수 변수의 부분집합을 재최적화하면서 나머지 변수는 고정하는 방식이다.
• 학습된 정책(타깃 학습과 강화학습을 통해 훈련된)을 사용하여 재최적화 대상이 되는 이웃으로 변수를 최적의 방식으로 분할하는 것을 예측한다.
• 선택된 부분집합은 고성능 ILP 솔버(예: Gurobi)를 사용하여 해결되며, 이는 개선된 현재 해를 향상시키기 위한 블랙박스 서브루틴으로 기능한다.
• 이 방법은 기반 솔버에 대해 무관하므로, 상용 솔버를 포함한 기존의 모든 ILP 솔버와 즉각 통합이 가능하다.
• 학습 구성 요소는 이전 최적화 데이터를 기반으로, 빠른 수렴과 더 나은 목적 함수 개선을 이끌어내는 이웃을 예측하도록 훈련된다.
• 프레임워크는 랜덤 및 학습된 이웃 선택을 모두 지원하며, 후자가 다양한 벤치마크에서 랜덤 선택 및 Gurobi 모두를 뛰어넘는 일관된 성능을 보인다.

실험 결과

연구 질문

• RQ1 기존 ILP 솔버를 서브루틴으로 사용하는 일반적인 LNS 프레임워크가 다양한 ILP 문제에서 Gurobi와 같은 선도적 상용 솔버보다 벽시계 시간 측면에서 뛰어난 성능을 낼 수 있는가?
• RQ2 영역에 특화된 지식 없이도 타깃 학습과 강화학습을 통해 LNS에서 효과적인 변수 이웃 선택 전략을 학습시킬 수 있는가?
• RQ3 학습 기반의 이웃 선택 전략이 다양한 문제 유형과 벤치마크 분포에 걸쳐도 성능 향상이 지속되는가?
• RQ4 SCIP과 같은 더 느린 오픈소스 솔버를 사용할 때도 LNS 프레임워크가 뛰어난 성능을 낼 수 있는가? 이는 상용 도구를 넘어서 보다 광범위한 적용 가능성을 시사한다.
• RQ5 MAXCUT 또는 MVC와 같은 특수 영역에서의 문제에 특화된 휴리스틱과 비교해 볼 때, 프레임워크의 성능는 어떠한가?

주요 결과

• 학습된 이웃 선택기(FT-LNS)를 사용한 LNS 프레임워크는 최소 정점 커버(MVC) 문제에서 BA 그래프에서는 11% 향상되고, ER 그래프에서는 6% 향상되어 Gurobi를 뛰어넘는다.
• CATS 벤치마크에서는 기존 휴리스틱 대비 최대 50% 높은 목적 함수 값을 기록하여 실제 세계 유사 환경에서의 강력한 성능을 입증한다.
• LNS 프레임워크 내에서 랜덤 이웃 선택조차도 여러 벤치마크에서 Gurobi를 뛰어넘는 성능을 보이며, LNS 패러다임 자체의 잠재적 이점이 있음을 시사한다.
• SCIP을 ILP 솔버로 사용할 경우, 학습된 LNS 변종(BC-LNS 및 FT-LNS)이 표준 SCIP 및 랜덤-LNS를 초월하여 성능을 향상시키며, 이는 다양한 솔버 유형에 걸쳐도 프레임워크의 강건성을 확인한다.
• 모든 테스트된 벤치마크(MVC, MAXCUT, CATS 포함)에서 Gurobi 대비 일관된 벽시계 시간 단축을 달성하여, 프레임워크의 일반화 가능성과 검증되었다.
• 결과는 기반 솔버를 수정하지 않더라도, 변수 분할을 통한 효과적인 부분문제 분해 전략을 학습함으로써 수렴 속도 향상과 더 나은 해 도달이 가능하다는 것을 보여준다.