[논문 리뷰] Parallel Graph Connectivity in Log Diameter Rounds

Alexandr Andoni, Clifford Stein외 3명|arXiv (Cornell University)|2018. 05. 08.

Parallel Computing and Optimization Techniques참고 문헌 4인용 수 33

한 줄 요약

이 논문은 다수의 병렬 계산(MPC) 모델에서 그래프 연결성에 대한 새로운 병렬 알고리즘을 제안하며, 그래프 지름 $D$를 기반으로 $O(\log D \cdot \log \log_{m/n}n)$ 라운드 내에 $\Theta(m)$ 총 메모리 사용으로 해결한다. 이는 고전적인 PRAM 모델의 $O(\log n)$ 경계를 크게 초월하는 것으로, 다단계 감소를 통한 이중 지수적 속도 향상 기법과 함께, 절단된 브로드캐스트 및 최소 부모 포레스트 기반 리더 선택 기법을 도입한다.

ABSTRACT

We study graph connectivity problem in MPC model. On an undirected graph with $n$ nodes and $m$ edges, $O(\log n)$ round connectivity algorithms have been known for over 35 years. However, no algorithms with better complexity bounds were known. In this work, we give fully scalable, faster algorithms for the connectivity problem, by parameterizing the time complexity as a function of the diameter of the graph. Our main result is a $O(\log D \log\log_{m/n} n)$ time connectivity algorithm for diameter-$D$ graphs, using $Θ(m)$ total memory. If our algorithm can use more memory, it can terminate in fewer rounds, and there is no lower bound on the memory per processor. We extend our results to related graph problems such as spanning forest, finding a DFS sequence, exact/approximate minimum spanning forest, and bottleneck spanning forest. We also show that achieving similar bounds for reachability in directed graphs would imply faster boolean matrix multiplication algorithms. We introduce several new algorithmic ideas. We describe a general technique called double exponential speed problem size reduction which roughly means that if we can use total memory $N$ to reduce a problem from size $n$ to $n/k$, for $k=(N/n)^{Θ(1)}$ in one phase, then we can solve the problem in $O(\log\log_{N/n} n)$ phases. In order to achieve this fast reduction for graph connectivity, we use a multistep algorithm. One key step is a carefully constructed truncated broadcasting scheme where each node broadcasts neighbor sets to its neighbors in a way that limits the size of the resulting neighbor sets. Another key step is random leader contraction, where we choose a smaller set of leaders than many previous works do.

연구 동기 및 목표

• 고전적인 PRAM 알고리즘을 능가하는 더 빠르고 완전히 확장 가능한 MPC 모델 내 연결성 알고리즘 설계.
• 그래프 지름 $D$를 기반으로 하여 연결성 문제의 시간 복잡도를 $O(\log n)$ 라운드 이하로 낮추기.
• 총 메모리 $N$을 사용하여 병렬 그래프 알고리즘에서 문제 크기를 빠르게 감소시키는 일반 기법 개발.
• 스패닝 포레스트, DFS 순서, 최소 스패닝 포레스트와 같은 관련 문제로 이 기법 확장.
• 빠른 방향성 도달 가능성과 더 빠른 부울 행렬 곱셈 간의 연결 고리 설정.

제안 방법

• 이중 지수적 속도 향상 기법 도입: 문제 크기가 $n$인 경우, 총 메모리 $N$을 사용해 $n/k$로 감소시키는 한 단계에서 $k = (N/n)^{\Theta(1)}$이면, 문제는 $O(\log \log_{N/n}n)$ 단계 내에 해결 가능하다.
• 확장 제어를 위해 통신 중 이웃 집합 성장 억제를 위한 절단된 브로드캐스트 기법 적용.
• 랜덤 샘플링보다 더 효율적으로 리더 수를 감소시켜 빠른 초반 진전을 가능하게 하는 최소 부모 포레스트 기반 리더 선택 기법 사용.
• 트리 수축 및 이웃 증가 연산을 통해 단계 간 연결성 정보 유지.
• 다중 국소 최단 경로 트리와 경로 생성 기법을 결합하여 스패닝 포레스트 구성 지원.
• 범위 최소 질의 및 DFS 순서 생성을 통해 트리 내 LCA 및 경로 질의 지원.

실험 결과

연구 질문

• RQ1 MPC 모델에서 그래프 지름이 작은 경우, 연결성 문제가 $o(\log n)$ 라운드 내에 해결될 수 있는가?
• RQ2 MPC 내 연결성 문제에서 메모리 사용과 라운드 복잡도 간 최적의 트레이드오프는 무엇인가?
• RQ3 이중 지수적 속도 향상 기법을 다른 그래프 문제로 일반화할 수 있는가?
• RQ4 실제 연결성 문제에서 최소 부모 포레스트 기반 리더 선택은 랜덤 리더 샘플링보다 어떻게 비교되는가?
• RQ5 방향성 도달 가능성 문제를 빠르게 해결할 수 있다면, 부울 행렬 곱셈도 더 빠르게 수행할 수 있는가?

주요 결과

• 제안된 알고리즘은 $\Theta(m)$ 총 메모리 사용으로 무방향 그래프의 연결성 문제에 대해 $O(\log D \cdot \log \log_{m/n}n)$ 라운드 복잡도를 달성한다.
• 충분히 큰 상수 $c$에 대해 $r \geq c \cdot \log \log_{m/n}n$ 라운드 동안 알고리즘이 성공할 확률이 최소 $2/3$이며, 고도로 실패를 피한다.
• 최소 부모 포레스트 기반 리더 선택 기법은 $m = \Theta(n)$일 경우 랜덤 샘플링보다 더 빠른 초반 진전을 가능하게 한다.
• 알고리즘은 유사한 라운드 복잡도로 스패닝 포레스트, DFS 순서, 최소 스패닝 포레스트 계산으로 확장 가능하다.
• MPC 내 더 빠른 방향성 도달 가능성 알고리즘이 존재한다면, 더 빠른 부울 행렬 곱셈이 가능함을 의미하며, 강력한 복잡도론적 연결 고리가 성립한다.
• 이중 지수적 속도 향상 기법은 문제 크기 감소를 가능하게 하여 $\log \log_{N/n}n$ 기반의 로그 이하 라운드 복잡도를 도출한다.