[논문 리뷰] Greedy Sequential Maximal Independent Set and Matching are Parallel on Average

Guy E. Blelloch, Jeremy T. Fineman외 1명|arXiv (Cornell University)|2012. 02. 15.

Complexity and Algorithms in Graphs인용 수 15

한 줄 요약

이 논문은 최대 독립 집합(MIS)과 최대 매칭(MM)에 대한 탐욕적 순차 알고리즘들이 정점/간선 순서가 무작위로 설정될 경우 다각도적 깊이를 가지며, 이는 효율적인 병렬화를 가능하게 한다. 순서의 접두사들을 동시에 처리함으로써, 선형적인 작업량과 높은 속도 향상(32개 코어에서 14–24배)을 달성하면서도 결정적으로 사전순으로 첫 번째 MIS/MM 해답을 재현한다.

ABSTRACT

The greedy sequential algorithm for maximal independent set (MIS) loops over the vertices in arbitrary order adding a vertex to the resulting set if and only if no previous neighboring vertex has been added. In this loop, as in many sequential loops, each iterate will only depend directly on a subset of the previous iterates (i.e. knowing that any one of a vertices neighbors is in the MIS or knowing that it has no previous neighbors is sufficient to decide its fate). This leads to a dependence structure among the iterates. If this structure is shallow then running the iterates in parallel while respecting the dependencies can lead to an efficient parallel implementation mimicking the sequential algorithm. In this paper, we show that for any graph, and for a random ordering of the vertices, the dependence depth of the sequential greedy MIS algorithm is polylogarithmic (O(log^2 n) with high probability). Our results extend previous results that show polylogarithmic bounds only for random graphs. We show similar results for a greedy maximal matching (MM). For both problems we describe simple linear work parallel algorithms based on the approach. The algorithms allow for a smooth tradeoff between more parallelism and reduced work, but always return the same result as the sequential greedy algorithms. We present experimental results that demonstrate efficiency and the tradeoff between work and parallelism.

연구 동기 및 목표

• 기존 병렬 MIS 및 MM 알고리즘의 비효율성, 즉 대규모 시스템에서만 순차 알고리즘보다 성능이 뛰어나지 않는 문제를 해결하기 위해.
• 정점/간선 순서가 무작위로 설정될 경우, MIS 및 MM에 대한 단순한 탐욕적 순차 알고리즘이 효율적으로 병렬화될 수 있음을 보여주기 위해.
• 순차 탐욕 알고리즘 결과(사전순으로 첫 번째 MIS/MM)를 결정적으로 재현하면서도 높은 병렬성과 낮은 작업량을 달성하는 결정적 병렬 구현을 제공하기 위해.
• 접두사 기반 스케줄링을 통해 작업량과 병렬성 사이의 매끄러운 트레이드오프를 확립하여, 보편적인 프로세서 수에서 실용적인 성능 향상을 이끌어내기 위해.

제안 방법

• 정점(또는 MIS의 경우) 또는 간선(또는 MM의 경우)을 무작위 순서로 처리하고, 각 순서의 접두사에 대해 탐욕 알고리즘을 동시에 실행한다.
• 각 접두사에 대해, 이전에 순서상 앞서 있는 이웃 정점/간선이 이미 해답에 포함되어 있지 않은 경우에만 고려함으로써, 정확성과 데이터 독립성을 보장한다.
• 병렬성의 세분화를 관리하기 위해 곡물 크기(예: 256)를 사용하며, 임계값에 도달하면 순차 실행에서 병렬 실행으로 전환한다.
• 확률적 방법을 사용하여 탐욕 알고리즘의 의존성 길이를 분석함으로써, 임의의 그래프에서 랜덤 순서 설정 하에 O(log²n)이 되며, 이는 높은 확률로 성립함을 보여준다.
• MM를 위해 MIS 알고리즘을 수정하여 선 그래프를 명시적으로 구성하지 않고도 암시적으로 처리함으로써 선형 작업량을 유지한다.
• 접두사 기반 병렬 프레임워크를 구현하여 접두사 크기를 조정하여 작업량과 깊이 사이의 균형을 맞추며, 최적의 접두사 크기에서 선형 작업량에 대한 이론적 보장을 제공한다.

실험 결과

연구 질문

• RQ1 무작위 그래프가 아닌 임의의 그래프에 대해서도 탐욕적 순차 MIS 알고리즘이 효율적으로 병렬화될 수 있는가?
• RQ2 무작위 정점 순서 설정 하에 탐욕적 MIS 알고리즘의 의존성 길이는 얼마이며, 다각도적으로 스케일링되는가?
• RQ3 탐욕적 MIS 및 MM 알고리즘의 병렬 구현이 선형 작업량을 유지하면서도 순차 알고리즘과 동일한 결과를 도출할 수 있는가?
• RQ4 접두사 크기의 선택이 실질적으로 총 작업량, 병렬성, 실행 시간 사이의 트레이드오프에 어떻게 영향을 미치는가?
• RQ5 제안된 방법이 보편적인 프로세서 수에서 순차 구현 및 Luby의 알고리즘과 같은 기존 병렬 알고리즘을 모두 능가할 수 있는가?

주요 결과

• 임의의 그래프와 무작위 정점 순서 설정 하에 탐욕적 MIS 알고리즘은 높은 확률로 의존성 길이가 O(log²n)이며, 이는 다각도적 병렬 깊이를 가능하게 한다.
• 제안된 접두사 기반 병렬 알고리즘은 32개 프로세서에서 MIS에 대해 14–17배, MM에 대해 21–24배의 속도 향상을 달성하여 순차 버전을 뛰어넘는다(4–32개 코어에서만 성능을 냄).
• 접두사 기반 MIS의 경우 32개 코어에서 Luby의 알고리즘보다 4–8배 더 빠르며, 이는 불필요한 작업의 감소와 라운드 간 우선순위 재할당이 필요 없기 때문이다.
• 의존성 관계가 존중된다면 실행 스케줄에 관계없이 결정적으로 결과를 보장하므로, 순차 및 병렬 실행 간 일관성이 확보된다.
• 최적의 접두사 크기는 작업량과 실행 시간을 최소화하기 위해 경험적으로 10⁻⁶에서 10⁻⁴ 사이의 입력 크기로 결정되었으며, 이 범위에서 순차에서 병렬로의 루프 전환으로 성능 향상이 발생한다.
• 이 방법은 다른 탐욕적 순차 알고리즘으로 일반화 가능하며, 병렬 알고리즘 설계 분야에서 광범위한 적용 가능성을 시사한다.