[论文解读] Leveraging TSP Solver Complementarity via Deep Learning

Kangfei Zhao, Shengcai Liu+2 more|arXiv (Cornell University)|Jun 1, 2020

Data Management and Algorithms参考文献 47被引用 4

一句话总结

该论文提出CTAS，一种利用卷积神经网络和数据增强技术，为单个TSP实例选择最优求解器的深度学习框架。在新的6,000个实例基准测试中，其性能超过单一最佳求解器两倍以上，且在大规模TSP工作负载的求解器选择方面优于当前最先进的统计模型。

ABSTRACT

The Travelling Salesman Problem (TSP) is a classical NP-hard problem and has broad applications in many disciplines and industries. In a large scale location-based services system, users issue TSP queries concurrently, where a TSP query is a TSP instance with $n$ points. In the literature, many advanced TSP solvers are developed to find high-quality solutions. Such solvers can solve some TSP instances efficiently but may take an extremely long time for some other instances. Due to the diversity of TSP instances, it is well-known that there exists no universal best solver dominating all other solvers on all possible TSP instances. To solve TSP efficiently, in addition to developing new TSP solvers, it needs to find a per-instance solver for each TSP instance, which is known as the TSP solver selection problem. In this paper, for the first time, we propose a deep learning framework, \CTAS, for TSP solver selection in an end-to-end manner. Specifically, \CTAS exploits deep convolutional neural networks to extract informative features from TSP instances and involves data argumentation strategies to handle the scarcity of labeled TSP instances. Moreover, to support large scale TSP solver selection, we construct a challenging TSP benchmark dataset with 6,000 instances, which is known as the largest TSP benchmark. Our \CTAS achieves over 2$ imes$ speedup of the average running time, comparing the single best solver, and outperforms the state-of-the-art statistical models.

研究动机与目标

• 解决由于缺乏 universally optimal 求解器而导致的为每个独立TSP实例选择最佳求解器的挑战。
• 克服用于求解器选择模型训练的数据中标签TSP实例稀缺的问题。
• 实现实时、大规模TSP求解器选择在高并发查询工作负载的基于位置服务中的高效应用。
• 开发一种可扩展的端到端深度学习框架，其在求解器选择性能上优于现有统计模型。
• 构建一个包含6,000个TSP实例的大型且具有挑战性的基准数据集，以支持对求解器选择方法的严格评估。

提出的方法

• 使用深度卷积神经网络从以网格形式表示的输入矩阵中提取TSP实例的结构和空间特征。
• 应用数据增强策略人工扩展训练集，缓解标签TSP实例数据稀缺的问题。
• 设计一个端到端学习框架，直接将TSP实例特征映射到最优求解器选择，避免使用启发式规则选择。
• 在新构建的6,000个多样化TSP实例基准数据集上训练模型，以确保在各种实例类型上的泛化能力。
• 将模型推理集成到实时系统中，实现按查询实例动态选择最快性能的求解器。
• 使用一种以求解器选择准确率和运行效率为目标的损失函数，使模型输出与实际性能提升保持一致。

实验结果

研究问题

• RQ1 深度学习模型能否基于实例的结构特征有效学习到为给定实例选择最佳TSP求解器？
• RQ2 当标签数据有限时，数据增强在TSP求解器选择模型性能提升方面有何作用？
• RQ3 端到端深度学习框架在TSP求解器选择方面相较于传统统计模型能有多大程度的性能超越？
• RQ4 所提出的模型学习到的求解器选择对大规模TSP工作负载中平均查询运行时间有何影响？
• RQ5 在真实世界部署场景中，该框架在多样化TSP实例类型上的可扩展性如何？

主要发现

• CTAS在所有实例上的平均运行时间相比单一最佳性能求解器实现了超过2倍的速度提升。
• 该框架在求解器选择准确率和运行效率方面均优于当前最先进的统计模型。
• 尽管标签TSP实例数量有限，数据增强的使用显著提升了模型的泛化能力。
• 所构建的6,000个实例基准是迄今为止公开可用的最大规模TSP基准，为求解器选择系统的评估提供了坚实基础。
• 深度学习模型成功识别出实例特定的求解器偏好，展示了在多样化TSP实例类型上的强大泛化能力。
• 采用卷积网络的端到端学习能够捕捉到与求解器性能相关联的TSP实例中有意义的结构模式。