[논문 리뷰] Dijkstras algorithm with predictions to solve the single-source many-targets shortest-path problem

Willem Feijen, Guido Schäfer|arXiv (Cornell University)|2021. 12. 22.

Reliability and Maintenance Optimization인용 수 4

한 줄 요약

이 논문은 단일 소스 다수 목표지점 최단경로 문제(SSMTSP)에서 기계학습 예측을 사용하여 탐색 공간을 줄이는 학습 보조 다익스트라 알고리즘을 제안한다. 초기에 최단경로 거리를 예측함으로써, 최적성은 유지하면서 우선순위 큐 연산을 줄이며, 이중 힙을 사용한 경우, 이론적으로는 다익스트라 알고리즘 대비 최대 35% 빠른 성능을 달성한다.

ABSTRACT

We study the use of machine learning techniques to solve a fundamental shortest path problem, known as the single-source many-targets shortest path problem (SSMTSP). Given a directed graph with non-negative edge weights, our goal is to compute a shortest path from a given source node to any of several target nodes. Basically, our idea is to equip an adapted version of Dijkstras algorithm with machine learning predictions to solve this problem: Based on the trace of the algorithm, we design a neural network that predicts the shortest path distance after a few iterations. The prediction is then used to prune the search space explored by Dijkstras algorithm, which may significantly reduce the number of operations on the underlying priority queue. We note that our algorithm works independently of the specific method that is used to arrive at such predictions. Crucially, we require that our algorithm always computes an optimal solution (independently of the accuracy of the prediction) and provides a certificate of optimality. As we show, in the worst-case this might force our algorithm to use the same number of queue operations as Dijkstras algorithm, even if the prediction is correct. In general, however, our algorithm may save a significant fraction of the priority queue operations. We derive structural insights that allow us to lower bound these savings on partial random instances. In these instances, an adversary can fix the instance arbitrarily except for the weights of a subset of relevant edges, which are chosen randomly. Our bound shows that the number of relevant edges which are pruned increases as the prediction error decreases. We then use these insights to derive closed-form expressions of the expected number of saved queue operations on random instances.

연구 동기 및 목표

• 기계학습 예측을 활용하여 단일 소스 다수 목표지점 최단경로 문제(SSMTSP)의 효율성을 향상시키는 것.
• 최적성에 영향을 주지 않으면서 예측을 활용해 탐색 공간을 줄이는 수정된 다익스트라 알고리즘을 설계하는 것.
• 예측이 부정확할 경우에도 최악의 경우 성능 보장을 유지하면서 알고리즘의 강건성을 확보하는 것.
• 예측 정확도에 기반해 우선순위 큐 연산의 기대 절감량에 대한 이론적 경계를 유도하는 것.
• 무작위 및 구조적 그래프 인스턴스에서 성능 향상을 실증적으로 검증하는 것.

제안 방법

• 예측이 최단경로에 있지 않은 노드의 탐색을 줄이는 데 사용되는 다익스트라 알고리즘의 변형된 버전이 사용된다.
• 알고리즘 트레이스를 기반으로 신경망을 훈련시켜 몇 번의 반복 후 최단경로 거리를 예측한다.
• 처리되지 않은 노드들을 위한 리저브 세트를 유지하며, 'Decrease-Prio' 연산을 통해 임시 거리를 업데이트한다.
• 예측이 우선순위 큐에 노드를 삽입하는 것을 방지하는 한, 어떤 예측 모델이든 지원된다.
• 예측과 현재 거리 기반으로 최단경로에 있지 않다는 것이 증명된 노드만을 잘라내므로, 알고리즘은 최적성을 보장한다.
• 이론적 분석은 일부 간선에 대해 무작위 가중치를 가진 '운좋은 그래프' 모델을 사용하여 잘라낸 엣지의 수에 대한 하한을 도출한다.

실험 결과

연구 질문

• RQ1 SSMTSP의 다익스트라 알고리즘에서 최적성에 영향을 주지 않고 기계학습 예측을 사용해 우선순위 큐 연산 수를 줄일 수 있는가?
• RQ2 예측 오차는 잘라낸 엣지 수와 성능 향상에 어떤 영향을 미치는가?
• RQ3 부분적으로 무작위 간선 가중치가 있는 경우, 기대로 절감된 큐 연산 수에 대한 이론적 하한은 무엇인가?
• RQ4 이중 힙과 피보나치 힙 간의 힙 데이터 구조의 차이는 예측 기반 알고리즘의 성능 향상에 어떤 영향을 미치는가?
• RQ5 무작위 그래프 인스턴스에서 실제 런타임 향상은 이론적 기대와 얼마나 일치하는가?

주요 결과

• 25%의 노드가 최단경로에 포함된 그래프에서, 이중 힙을 사용한 경우 제안된 알고리즘이 다익스트라 알고리즘 대비 최대 35% 더 빠른 실행 속도를 달성한다.
• r = 0.35인 유리한 인스턴스에서, 예측 기반 알고리즘은 이중 힙을 사용해 6.54초 대비 4.82초로 런타임을 단축시켰다.
• 이론적 분석 결과, 예측 오차가 감소할수록 잘라낸 관련 엣지의 수가 증가하며, 무작위 인스턴스에서 기대 절감량에 대한 닫힌 형태의 수식이 도출되었다.
• 완벽한 예측이더라도 최악의 경우 다익스트라 알고리즘과 동일한 큐 연산 수를 수행할 수 있지만, 실질적으로는 상당한 절감이 이루어진다.
• 알고리즘은 예측 품질과 관계없이 최적성과 정확성 증명서를 유지하므로 강건성을 확보한다.
• 실험 결과, 실제 런타임 향상은 이론적 기대를 뛰어넘는 경우가 많으며, 특히 이중 힙과 큰 r 값에서 두드러진다.