[论文解读] Graph Neural Network Guided Local Search for the Traveling Salesperson Problem

Benjamin Hudson, Qingbiao Li+2 more|arXiv (Cornell University)|Oct 11, 2021

Vehicle Routing Optimization Methods被引用 13

一句话总结

该论文提出了一种混合GNN引导的局部搜索框架，用于欧几里得TSP问题，利用图神经网络（GNN）预测每条边的全局遗憾值，从而引导引导式局部搜索（GLS）过程，快速收敛至高质量解。该方法在100个节点的TSP实例上将最优性差距减少了2倍，在从20个节点推广到100个节点的问题时，最优性差距减少了7倍，解决方案质量与收敛速度均优于近期基于学习的方法。

ABSTRACT

Solutions to the Traveling Salesperson Problem (TSP) have practical applications to processes in transportation, logistics, and automation, yet must be computed with minimal delay to satisfy the real-time nature of the underlying tasks. However, solving large TSP instances quickly without sacrificing solution quality remains challenging for current approximate algorithms. To close this gap, we present a hybrid data-driven approach for solving the TSP based on Graph Neural Networks (GNNs) and Guided Local Search (GLS). Our model predicts the regret of including each edge of the problem graph in the solution; GLS uses these predictions in conjunction with the original problem graph to find solutions. Our experiments demonstrate that this approach converges to optimal solutions at a faster rate than three recent learning based approaches for the TSP. Notably, we reduce the mean optimality gap on the 100-node problem set from 1.534% to 0.705%, a 2x improvement. When generalizing from 20-node instances to the 100-node problem set, we reduce the optimality gap from 18.845% to 2.622%, a 7x improvement.

研究动机与目标

• 为在实时约束下快速计算大规模TSP实例的高质量解，解决该挑战。
• 克服专用精确求解器和基于学习的启发式方法在泛化能力或速度方面的局限性。
• 开发一种可泛化的、数据驱动的框架，将GNN与GLS结合，实现高效的组合优化。
• 与近期基于学习的TSP求解器相比，提升收敛速度与解的质量，特别是在零样本泛化至更大规模或真实世界实例方面。

提出的方法

• 该模型使用GNN预测TSP图中每条边的全局遗憾值，定义为相对于最优解包含该边的成本。
• GNN在TSP图$ G $的线图$ L(G) $上运行，实现以边为中心的消息传递，无需依赖节点特征。
• 预测的遗憾值引导GLS算法通过惩罚高遗憾边并逃离局部极小值，迭代改进解。
• 该方法在遗憾近似值上以监督方式训练，GNN学习在不同问题规模和分布间泛化。
• 该方法可泛化至其他路由问题，因为基于遗憾的GLS框架可结合特定问题的局部搜索过程进行调整。
• 该框架避免学习完整的路径序列，而是通过边级遗憾建模解的质量，从而保持TSP的对称性。

实验结果

研究问题

• RQ1 基于GNN的遗憾预测器是否能比近期基于学习的方法更快地引导GLS找到高质量的TSP解？
• RQ2 所提出方法从较小规模TSP实例（如20个节点）泛化到更大规模实例（如100个节点）时表现如何？
• RQ3 使用TSP问题的线图在多大程度上提升了模型的泛化能力与解的质量？
• RQ4 基于遗憾的GLS框架是否能在收敛速度与最优性方面优于基于序列的学习启发式方法？
• RQ5 与合成的随机生成TSP实例相比，该方法在真实世界TSPLIB实例上的表现如何？

主要发现

• 在50个节点的TSP实例上，该方法将平均最优性差距从基线的0.268%降低至0.009%，实现30倍的改进。
• 在100个节点的TSP实例上，平均最优性差距从1.534%降低至0.705%，相比最佳先前基于学习的方法实现2倍的改进。
• 当从20个节点推广到100个节点实例时，平均最优性差距从18.845%降至2.622%，实现7倍的改进。
• 该方法在10秒内对20个节点实例实现了100%的最优解率，优于所有基线方法。
• 该模型在真实世界TSPLIB实例上表现出良好的泛化能力，展现出超越合成数据分布的鲁棒性。
• 使用线图使模型能够实现无节点特征的边聚焦学习，提升了泛化能力与对称性保持。