[论文解读] Dijkstras algorithm with predictions to solve the single-source many-targets shortest-path problem

Willem Feijen, Guido Schäfer|arXiv (Cornell University)|Dec 22, 2021

Reliability and Maintenance Optimization被引用 4

一句话总结

本文提出了一种基于学习的戴克斯特拉算法，利用机器学习预测来缩减单源多目标最短路径问题（SSMTSP）中的搜索空间。通过早期预测最短路径距离，该算法在保证最优性的同时减少了优先队列操作，相较于戴克斯特拉算法，在使用二项堆的有利图实例上，性能最高可提升35%。

ABSTRACT

We study the use of machine learning techniques to solve a fundamental shortest path problem, known as the single-source many-targets shortest path problem (SSMTSP). Given a directed graph with non-negative edge weights, our goal is to compute a shortest path from a given source node to any of several target nodes. Basically, our idea is to equip an adapted version of Dijkstras algorithm with machine learning predictions to solve this problem: Based on the trace of the algorithm, we design a neural network that predicts the shortest path distance after a few iterations. The prediction is then used to prune the search space explored by Dijkstras algorithm, which may significantly reduce the number of operations on the underlying priority queue. We note that our algorithm works independently of the specific method that is used to arrive at such predictions. Crucially, we require that our algorithm always computes an optimal solution (independently of the accuracy of the prediction) and provides a certificate of optimality. As we show, in the worst-case this might force our algorithm to use the same number of queue operations as Dijkstras algorithm, even if the prediction is correct. In general, however, our algorithm may save a significant fraction of the priority queue operations. We derive structural insights that allow us to lower bound these savings on partial random instances. In these instances, an adversary can fix the instance arbitrarily except for the weights of a subset of relevant edges, which are chosen randomly. Our bound shows that the number of relevant edges which are pruned increases as the prediction error decreases. We then use these insights to derive closed-form expressions of the expected number of saved queue operations on random instances.

研究动机与目标

• 通过机器学习预测提升单源多目标最短路径问题（SSMTSP）求解效率。
• 设计一种改进的戴克斯特拉算法，利用预测结果缩减搜索空间，同时不牺牲最优性。
• 确保即使预测不准确，算法仍具备鲁棒性，维持最坏情况下的性能保证。
• 基于预测准确性，推导优先队列操作预期节省量的理论边界。
• 在随机图和结构化图实例上，通过实验验证性能提升效果。

提出的方法

• 使用戴克斯特拉算法的改进版本，其中预测结果用于剔除不在最短路径上的节点。
• 在算法轨迹上训练神经网络，以预测经过若干次迭代后的最短路径距离。
• 算法维护一个备用集合，用于尚未处理的节点，通过“Decrease-Prio”操作更新其暂定距离。
• 该方法支持任意预测模型，只要预测结果用于避免将节点插入优先队列。
• 算法通过基于预测结果和当前距离，证明某节点不在最短路径上，从而保证最优性。
• 理论分析采用“有利图”模型，在部分边具有随机权重的图上推导出剪枝收益的下界。

实验结果

研究问题

• RQ1 能否在不损害最优性的前提下，利用机器学习预测减少戴克斯特拉算法在SSMTSP中的优先队列操作次数？
• RQ2 预测误差如何影响被剪枝边的数量以及最终的性能增益？
• RQ3 在部分边具有随机权重的条件下，预期节省的队列操作数的理论下界是多少？
• RQ4 不同的堆数据结构（二项堆与斐波那契堆）如何影响基于预测的算法的性能增益？
• RQ5 在随机图实例上，实际运行时间的提升程度在多大程度上符合理论预期？

主要发现

• 在最短路径上包含25%节点的图上，该算法在二项堆实现中，执行速度比戴克斯特拉算法最高快35%。
• 在 $ r = 0.35 $ 的有利实例中，基于预测的算法运行时间为4.82秒，而戴克斯特拉算法使用二项堆需6.54秒。
• 理论分析表明，随着预测误差减小，被剪枝的相关边数增加，并为随机实例推导出预期节省量的闭式表达式。
• 即使预测完美，该算法在最坏情况下仍可能执行与戴克斯特拉算法相同数量的队列操作，但实际中节省效果显著。
• 该算法始终保证最优性，并提供正确性证明，无论预测质量如何，确保了鲁棒性。
• 实验结果表明，实际运行时间的提升往往超过理论预期，尤其在使用二项堆和较大的 $ r $ 值时。