[论文解读] Large Neighborhood Search based on Neural Construction Heuristics

Jonas K. Falkner, Daniela Thyssens+1 more|arXiv (Cornell University)|May 2, 2022

Vehicle Routing Optimization Methods被引用 4

一句话总结

该论文提出了一种大型邻域搜索（LNS）框架，采用基于图神经网络的神经构造启发式算法（NCH）作为车辆路径问题带时间窗（VRPTW）的修复算子。NCH通过强化学习进行训练，无需标签，实现了高效且可微分的解重构；该方法在600个节点的实例上达到最佳已知解的1.1倍，性能接近最优，并在GPU硬件上实现了显著加速。

ABSTRACT

We propose a Large Neighborhood Search (LNS) approach utilizing a learned construction heuristic based on neural networks as repair operator to solve the vehicle routing problem with time windows (VRPTW). Our method uses graph neural networks to encode the problem and auto-regressively decodes a solution and is trained with reinforcement learning on the construction task without requiring any labels for supervision. The neural repair operator is combined with a local search routine, heuristic destruction operators and a selection procedure applied to a small population to arrive at a sophisticated solution approach. The key idea is to use the learned model to re-construct the partially destructed solution and to introduce randomness via the destruction heuristics (or the stochastic policy itself) to effectively explore a large neighborhood.

研究动机与目标

• 开发一种可扩展且可微分的修复算子，用于车辆路径问题中的大型邻域搜索（LNS）。
• 通过用局部化图神经网络替代自注意力机制，解决标准注意力模型在大规模VRPTW中的局限性。
• 通过结合学习到的修复算子与启发式破坏算子及随机性，实现在LNS中的有效邻域探索。
• 在真实世界基准设置下评估该方法，特别是DIMACS VRPTW挑战赛，以评估其与手工设计求解器的竞争力。
• 展示端到端学习的构造启发式算法在复杂组合优化问题中的可行性与性能潜力。

提出的方法

• 该方法使用图神经网络（GNN）对每个节点的静态空间邻域进行编码，在解码过程中预计算并固定，以将复杂度从O(N²)降低至O(Nk)。
• 在每个解码步骤中，通过当前路径的局部邻域上的GNN计算动态节点嵌入，捕捉路径相关的上下文信息，用于动作选择。
• 最终节点嵌入为静态与动态嵌入之和：$\tilde{x}_i^{(t)} = \tilde{x}_i^{\text{stat}} + \tilde{x}_i^{\text{dyn}}$，实现上下文感知的自回归解构造。
• 基于组合嵌入的注意力机制构建策略网络，选择下一个要添加到路径中的节点，采用贪婪选择或softmax采样。
• 将神经修复算子集成到LNS框架中，结合启发式破坏算子（如随机、基于等待时间、路径删除等）以探索多样化邻域。
• 在修复后应用通过引导局部搜索（GLS）进行局部搜索，以进一步提升解质量，时间限制按实例规模进行缩放。

实验结果

研究问题

• RQ1 通过强化学习训练的神经构造启发式算法能否作为大型邻域搜索中VRPTW的有效且泛化能力强的修复算子？
• RQ2 用局部化GNN替代自注意力机制，对大规模VRPTW实例的可扩展性与性能有何影响？
• RQ3 结合学习到的修复算子与启发式破坏算子，与传统LNS中使用贪婪启发式相比，能在多大程度上提升解的质量？
• RQ4 与最先进求解器相比，该方法在分布外实例及更大规模问题（如600个节点）上的表现如何？
• RQ5 在单线程CPU评估环境下，使用GPU优化的GNN-based NCH是否具有显著的计算优势？

主要发现

• 该求解器在600个节点的VRPTW实例上，平均性能差距为最佳已知解（BKS）的1.1倍，所有基准类型中中位数差距均低于10%。
• 在Solomon和Homberger & Gehring基准上，该方法在600个节点的R2、C2和RC2实例上平均差距为9.99%，表明其具备出色的可扩展性。
• 与单线程CPU推理相比，该方法在消费级GPU（NVIDIA GeForce 1080 Ti）上实现了15–20倍的加速，凸显其GPU原生高效性。
• 使用预计算的静态GNN嵌入将计算复杂度从O(N²)降低至O(Nk)，使大规模实例的可行推理成为可能。
• 该方法优于基线LNS框架中使用标准启发式的方法，表明学习到的修复算子可显著增强邻域探索能力与解质量。
• 尽管仍处于实验阶段，该方法在与高度调优的手工设计求解器对比中表现具有竞争力，表明通过端到端微调具有巨大的未来改进潜力。