[논문 리뷰] Graph Neural Network Guided Local Search for the Traveling Salesperson Problem

Benjamin Hudson, Qingbiao Li외 2명|arXiv (Cornell University)|2021. 10. 11.

Vehicle Routing Optimization Methods인용 수 13

한 줄 요약

이 논문은 유클리드 TSP를 위한 하이브리드 GNN 가이드드 로컬 서치 프레임워크를 제안한다. 이 방법은 그래프 신경망(GNN)을 사용해 각 간선의 전역 회피도(global regret)를 예측하고, 이를 통해 가이드드 로컬 서치(GLS) 절차를 유도하여 고품질의 해에 신속히 수렴시킨다. 이 방법은 100노드 TSP 인스턴스에서 최적성 갭을 2배 향상시키고, 20노드에서 100노드로의 일반화 시에는 7배 향상시키며, 최근의 학습 기반 접근법보다 해의 품질과 수렴 속도 면에서 뛰어나다.

ABSTRACT

Solutions to the Traveling Salesperson Problem (TSP) have practical applications to processes in transportation, logistics, and automation, yet must be computed with minimal delay to satisfy the real-time nature of the underlying tasks. However, solving large TSP instances quickly without sacrificing solution quality remains challenging for current approximate algorithms. To close this gap, we present a hybrid data-driven approach for solving the TSP based on Graph Neural Networks (GNNs) and Guided Local Search (GLS). Our model predicts the regret of including each edge of the problem graph in the solution; GLS uses these predictions in conjunction with the original problem graph to find solutions. Our experiments demonstrate that this approach converges to optimal solutions at a faster rate than three recent learning based approaches for the TSP. Notably, we reduce the mean optimality gap on the 100-node problem set from 1.534% to 0.705%, a 2x improvement. When generalizing from 20-node instances to the 100-node problem set, we reduce the optimality gap from 18.845% to 2.622%, a 7x improvement.

연구 동기 및 목표

• 실시간 제약 조건 하에 대규모 TSP 인스턴스에 대해 고속으로 고품질의 해를 계산하는 데 도전하는 것.
• 일반화 능력이나 속도가 떨어지는 전용 정확한 해법과 학습 기반 휴리스틱의 한계를 극복하는 것.
• GNN와 GLS를 결합한 일반화 가능한 데이터 기반 프레임워크를 개발하여 효율적인 조합 최적화를 수행하는 것.
• 특히 더 큰 인스턴스나 실제 세계의 인스턴스에 대해 제로샷 일반화 시에, 최근의 학습 기반 TSP 해법보다 수렴 속도와 해의 품질을 향상시키는 것.

제안 방법

• 모델은 TSP 그래프의 각 간선에 대한 전역 회피도를 예측하기 위해 GNN을 사용한다. 이는 최적 해에 비해 간선을 포함할 때의 비용으로 정의된다.
• GNN는 TSP 그래프 $ G $ 의 선 그래프 $ L(G) $ 에서 작동하여, 노드 특징에 의존하지 않고 간선 중심의 메시지 전달을 가능하게 한다.
• 예측된 회피도 값은 GLS 알고리즘의 반복적 개선 과정에서 고회피도 간선을 페널티 처리하고 국소 최적점에서 벗어나도록 유도한다.
• 이 방법은 예측된 회피도 근사치를 기반으로 지도 학습 방식으로 훈련되며, GNN은 다양한 문제 크기와 분포 간의 일반화를 학습한다.
• 이 방법은 문제에 특화된 로컬 서치 절차를 적용함으로써 다른 라우팅 문제로도 일반화 가능하다.
• 완전한 순회 순서를 학습하지 않고, 간선 수준의 회피도를 통해 해 품질을 모델링함으로써 TSP의 대칭성을 유지한다.

실험 결과

연구 질문

• RQ1 GNN 기반의 회피도 예측기로 GLS를 가이드하면, 최근의 학습 기반 방법보다 더 신속하게 고품질의 TSP 해를 찾을 수 있는가?
• RQ2 제안된 방법은 작은 TSP 인스턴스(예: 20노드)에서 더 큰 인스턴스(예: 100노드)로 일반화할 때 어떻게 작용하는가?
• RQ3 TSP 문제의 선 그래프를 사용함으로써 모델의 일반화 능력과 해 품질은 어느 정도 향상되는가?
• RQ4 회피도 기반의 GLS 프레임워크는 수렴 속도와 최적성 면에서 순서 기반 학습 휴리스틱을 초월할 수 있는가?
• RQ5 합성 데이터 분포를 초월해 실제 세계의 TSPLIB 인스턴스에서 이 방법은 어떻게 성능을 발휘하는가?

주요 결과

• 50노드 TSP 인스턴스에서, 평균 최적성 갭은 기준선의 0.268%에서 0.009%로 감소하여 30배 향상되었다.
• 100노드 TSP 인스턴스에서, 평균 최적성 갭은 1.534%에서 0.705%로 감소하여, 최고의 이전 학습 기반 방법보다 2배 향상되었다.
• 20노드에서 100노드로의 일반화 시, 평균 최적성 갭은 18.845%에서 2.622%로 감소하여 7배 향상되었다.
• 20노드 인스턴스에서 10초 이내에 100% 최적 해 달성률을 기록했으며, 모든 기준선을 압도했다.
• 합성 데이터 분포를 초월해 실제 세계의 TSPLIB 인스턴스로도 잘 일반화되어, 데이터 분포 외부에서도 강건함을 입증했다.
• 선 그래프의 사용은 노드 특징 없이도 간선 중심의 학습을 가능하게 하여 일반화 능력 향상과 대칭성 유지에 기여했다.