[논문 리뷰] Improved MPC Algorithms for MIS, Matching, and Coloring on Trees and Beyond

Bateni, MohammadHossein, Behnezhad, Soheil외 3명|arXiv (Cornell University)|2018. 09. 11.

Algorithms and Data Compression참고 문헌 18인용 수 4

한 줄 요약

이 논문은 대량 병렬 계산(MPC) 모델에서 트리에서의 동적 프로그래밍을 병렬화하기 위한 일반적인 알고리즘 프레임워크를 제안한다. O(log n) 라운드 내에 각 머신당 부분선형 메모리로 해결할 수 있는 두 가지 문제 클래스—(poly log)-표현 가능 및 선형 표현 가능—을 도입함으로써, 최소 이등분, 최대 독립 집합, 최장 경로와 같은 기본 트리 문제의 효율적인 MPC 구현을 가능하게 한다.

ABSTRACT

Dynamic programming is a powerful technique that is, unfortunately, often inherently sequential. That is, there exists no unified method to parallelize algorithms that use dynamic programming. In this paper, we attempt to address this issue in the Massively Parallel Computations (MPC) model which is a popular abstraction of MapReduce-like paradigms. Our main result is an algorithmic framework to adapt a large family of dynamic programs defined over trees. We introduce two classes of graph problems that admit dynamic programming solutions on trees. We refer to them as "(polylog)-expressible" and "linear-expressible" problems. We show that both classes can be parallelized in $O(\log n)$ rounds using a sublinear number of machines and a sublinear memory per machine. To achieve this result, we introduce a series of techniques that can be plugged together. To illustrate the generality of our framework, we implement in $O(\log n)$ rounds of MPC, the dynamic programming solution of graph problems such as minimum bisection, $k$-spanning tree, maximum independent set, longest path, etc., when the input graph is a tree.

연구 동기 및 목표

• 대규모 분산 환경에서 동적 프로그래밍의 본질적인 순차성 문제를 해결하기 위해.
• 효율적인 트리에서의 동적 프로그래밍 병렬화를 가능하게 하는 통합 MPC 프레임워크를 개발하기 위해.
• 효율적인 MPC 솔루션을 허용하는 그래프 문제의 클래스—(poly log)-표현 가능 및 선형 표현 가능—을 식별하고 형식화하기 위해.
• 다양한 트리 최적화 문제에 대한 솔루션을 O(log n) 라운드 내에 구현하여 프레임워크의 일반성을 입증하기 위해.

제안 방법

• 트리에서의 (poly log)-표현 가능 및 선형 표현 가능 문제라는 두 가지 문제 클래스를 도입한다.
• 각 부트리의 상태가 경계 정점의 색상 및 비보조 정점의 수에 의존하는 동적 프로그래밍 설정을 정의한다.
• 부분 솔루션을 부트리 간에 효율적으로 병합하기 위해 '유니파이어'(U) 및 '서브유니파이어'(S) 함수를 사용한다.
• 부모-자식 일致성 등의 구조적 제약 조건을 강제하기 위해 보조 정점을 포함한 이진 트리 변환을 적용하며, 이는 솔루션 비용에 영향을 주지 않는다.
• 머신들이 부트리를 처리하고 라운드 경계에서만 통신하는 순환적이고 하향식 MPC 계산을 수행한다.
• 각 머신이 O(n/m) 데이터를 처리하고 각 라운드에서 다항식 시간 내에 실행되도록 부분선형 메모리와 머신 수를 활용하여 확장성을 확보한다.

실험 결과

연구 질문

• RQ1 동적 프로그래밍의 본질적인 순차성에도 불구하고 MPC 모델에서 트리에서의 동적 프로그래밍을 효과적으로 병렬화할 수 있는가?
• RQ2 어떤 트리 문제의 구조적 성질이 MPC 환경에서 효율적인 병렬화를 가능하게 하는가?
• RQ3 O(log n) MPC 라운드 내에서 광범위한 트리 최적화 문제를 다룰 수 있는 통합 프레임워크를 설계할 수 있는가?
• RQ4 최소한의 통신과 메모리로 부트리 간에 동적 프로그래밍 상태를 어떻게 병합할 수 있는가?
• RQ5 트리에서 MPC 모델에서 부분선형 메모리와 O(log n) 라운드 내에 해결 가능한 문제의 필요 조건는 무엇인가?

주요 결과

• 논문은 트리에서의 (poly log)-표현 가능 및 선형 표현 가능 문제들이 각 머신당 부분선형 메모리로 O(log n) 라운드 내에 해결될 수 있음을 증명한다.
• 최소 이등분 문제는 m台의 머신이 가용할 경우 각 머신당 eO(n4/3/m) 공간을 사용하여 고확률로 O(log n) 라운드 내에 해결 가능하다.
• 프레임워크는 최대 독립 집합, 최장 경로, 최소 정점 커버, k-스패닝 트리와 같은 다양한 문제의 효율적인 MPC 구현을 지원한다.
• 최소 이등분 문제의 솔루션은 부모-자식 일치성을 강제하기 위해 무한한 간선 가중치를 가진 보조 정점을 활용하며, 이는 하위 트리 솔루션의 정확한 병합을 보장한다.
• 유니파이어 및 서브유니파이어 함수는 트리 분할 간에 부분 동적 프로그래밍 상태를 정확하고 효율적으로 병합할 수 있게 한다.
• 이 방법은 k-최대 스패닝 트리 및 시설 위치 문제와 같은 다른 문제로도 확장 가능하여, 트리 구조 최적화에 광범위한 적용 가능성을 보여준다.