[논문 리뷰] Leveraging TSP Solver Complementarity via Deep Learning

Kangfei Zhao, Shengcai Liu외 2명|arXiv (Cornell University)|2020. 06. 01.

Data Management and Algorithms참고 문헌 47인용 수 4

한 줄 요약

이 논문은 컨볼루션 신경망과 데이터 증강을 사용하여 개별 TSP 인스턴스에 최적의 TSP 솔버를 선택하는 딥러닝 프레임워크 CTAS를 제안한다. 새로운 6,000개 인스턴스 기반 벤치마크에서 가장 우수한 단일 솔버보다 2배 이상의 속도 향상을 달성하며, 대규모 TSP 워크로드의 솔버 선택 분야에서 최신 기술보다 뛰어난 성능을 보였다.

ABSTRACT

The Travelling Salesman Problem (TSP) is a classical NP-hard problem and has broad applications in many disciplines and industries. In a large scale location-based services system, users issue TSP queries concurrently, where a TSP query is a TSP instance with $n$ points. In the literature, many advanced TSP solvers are developed to find high-quality solutions. Such solvers can solve some TSP instances efficiently but may take an extremely long time for some other instances. Due to the diversity of TSP instances, it is well-known that there exists no universal best solver dominating all other solvers on all possible TSP instances. To solve TSP efficiently, in addition to developing new TSP solvers, it needs to find a per-instance solver for each TSP instance, which is known as the TSP solver selection problem. In this paper, for the first time, we propose a deep learning framework, \CTAS, for TSP solver selection in an end-to-end manner. Specifically, \CTAS exploits deep convolutional neural networks to extract informative features from TSP instances and involves data argumentation strategies to handle the scarcity of labeled TSP instances. Moreover, to support large scale TSP solver selection, we construct a challenging TSP benchmark dataset with 6,000 instances, which is known as the largest TSP benchmark. Our \CTAS achieves over 2$ imes$ speedup of the average running time, comparing the single best solver, and outperforms the state-of-the-art statistical models.

연구 동기 및 목표

• 모든 상황에서 유일하게 최적인 솔버가 존재하지 않기 때문에, 각 개별 TSP 인스턴스에 대해 가장 적합한 TSP 솔버를 선택하는 데 도전하는 것.
• 솔버 선택 모델의 학습 데이터에서 레이블이 부여된 TSP 인스턴스의 부족 문제를 해결하는 것.
• 고병렬 쿼리 워크로드를 가진 실생활 위치 기반 서비스에서 효율적이고 대규모로 TSP 솔버 선택을 가능하게 하는 것.
• 기존 통계 모델보다 솔버 선택 성능에서 뛰어나며 확장 가능한 종단 간 딥러닝 프레임워크를 개발하는 것.
• 엄격한 평가를 지원하기 위해 6,000개의 TSP 인스턴스로 구성된 대규모이고 도전적인 벤치마크 데이터셋을 구축하는 것.

제안 방법

• TSP 인스턴스를 격자 기반 입력 행렬로 표현하여 컨볼루션 신경망을 활용해 구조적 및 공간적 특징을 추출하는 것.
• 학습 데이터를 인위적으로 확장하고 레이블이 부여된 TSP 인스턴스의 자료 부족 문제를 완화하기 위해 데이터 증강 전략을 적용하는 것.
• 히우리틱 기반 선택 규칙 없이 TSP 인스턴스 특징을 직접 최적의 솔버 선택으로 매핑하는 종단 간 학습 프레임워크를 설계하는 것.
• 다양한 인스턴스 유형에 걸쳐 일반화할 수 있도록 6,000개의 다양한 TSP 인스턴스로 구성된 새로운 벤치마크 데이터셋을 기반으로 모델을 훈련하는 것.
• 실시간 시스템에 모델 추론 기능을 통합하여 각 쿼리 인스턴스에 대해 가장 빠르게 작동하는 솔버를 동적으로 선택하는 것.
• 솔버 선택 정확도와 런타임 효율성을 최적화하는 손실 함수를 사용하여 모델 출력이 실질적인 성능 향상과 일치하도록 하는 것.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 인스턴스의 구조적 특징을 바탕으로 주어진 인스턴스에 대해 가장 적합한 TSP 솔버를 효과적으로 선택할 수 있는가?
• RQ2 레이블이 부여된 데이터가 제한된 상황에서 데이터 증강 전략이 TSP 솔버 선택 모델의 성능에 어떤 영향을 미치는가?
• RQ3 종단 간 딥러닝 프레임워크가 기존의 통계 모델보다 TSP 솔버 선택에서 얼마나 뛰어난 성능을 보일 수 있는가?
• RQ4 모델이 학습한 솔버 선택 방식이 대규모 TSP 워크로드에서 평균 쿼리 런타임에 어떤 영향을 미치는가?
• RQ5 실제 운영 환경에서 다양한 TSP 인스턴스 유형에 대해 제안된 프레임워크가 얼마나 잘 스케일링되는가?

주요 결과

• CTAS는 모든 인스턴스에 걸쳐 가장 우수한 단일 솔버보다 평균 실행 시간에서 2배 이상의 속도 향상을 달성했다.
• 프레임워크는 솔버 선택 정확도와 런타임 효율성 면에서 최신 기술 통계 모델을 뛰어넘었다.
• 데이터 증강 전략을 활용함으로써 레이블이 부족한 TSP 인스턴스 조건에서도 모델의 일반화 능력이 크게 향상되었다.
• 구축된 6,000개 인스턴스 기반 벤치마크는 현재까지 공개된 TSP 벤치마크 중 가장 크며, 솔버 선택 시스템의 철저한 평가를 가능하게 했다.
• 딥러닝 모델은 인스턴스에 특화된 솔버 선호도를 성공적으로 식별하여 다양한 TSP 인스턴스 유형에 걸쳐 강력한 일반화 능력을 보였다.
• 컨볼루션 네트워크를 활용한 종단 간 학습이 TSP 인스턴스의 의미 있는 구조적 패턴을 포착하여 솔버 성능과 관련이 있음을 입증했다.