[논문 리뷰] The Message Complexity of Distributed Graph Optimization

Fabien Dufoulon, Shreyas Pai외 3명|arXiv (Cornell University)|2023. 11. 24.

Complexity and Algorithms in Graphs인용 수 4

한 줄 요약

이 논문은 최대 매칭(MaxM), 최소 정점 독립 집합(MVC), 최소 독립 집합(MDS), 최대 독립 집합(MaxIS)의 네 가지 기본 문제에 대해 분산 그래프 최적화 알고리즘의 메시지 복잡도에 대한 날카러운 하한을 확립한다. 정확한 계산에서는 MVC, MDS, MaxIS에 대해 CONGEST 모델에서 Ω̃(n³) 메시지가 필요하며, 상수 요인 근사에서는 Θ̃(n²) 메시지로 달성 가능하다. 무작위 그래프에서는 상수 요인 근사에 대해 다항로그 시간 내에 near-linear Õ(n) 메시지 복잡도를 달성할 수 있다.

ABSTRACT

The message complexity of a distributed algorithm is the total number of messages sent by all nodes over the course of the algorithm. This paper studies the message complexity of distributed algorithms for fundamental graph optimization problems. We focus on four classical graph optimization problems: Maximum Matching (MaxM), Minimum Vertex Cover (MVC), Minimum Dominating Set (MDS), and Maximum Independent Set (MaxIS). In the sequential setting, these problems are representative of a wide spectrum of hardness of approximation. While there has been some progress in understanding the round complexity of distributed algorithms (for both exact and approximate versions) for these problems, much less is known about their message complexity and its relation with the quality of approximation. We almost fully quantify the message complexity of distributed graph optimization by showing the following results: 1) Cubic regime: Our first main contribution is showing essentially cubic, i.e., Ω̃(n³) lower bounds (where n is the number of nodes in the graph) on the message complexity of distributed exact computation of Minimum Vertex Cover (MVC), Minimum Dominating Set (MDS), and Maximum Independent Set (MaxIS). Our lower bounds apply to any distributed algorithm that runs in polynomial number of rounds (a mild and necessary restriction). Our result is significant since, to the best of our knowledge, this are the first ω(m) (where m is the number of edges in the graph) message lower bound known for distributed computation of such classical graph optimization problems. Our bounds are essentially tight, as all these problems can be solved trivially using O(n³) messages in polynomial rounds. All these bounds hold in the standard CONGEST model of distributed computation in which messages are of O(log n) size. 2) Quadratic regime: In contrast, we show that if we allow approximate computation then Θ̃(n²) messages are both necessary and sufficient. Specifically, we show that Ω̃(n²) messages are required for constant-factor approximation algorithms for all four problems. For MaxM and MVC, these bounds hold for any constant-factor approximation, whereas for MDS and MaxIS they hold for any approximation factor better than some specific constants. These lower bounds hold even in the LOCAL model (in which messages can be arbitrarily large) and they even apply to algorithms that take arbitrarily many rounds. We show that our lower bounds are essentially tight, by showing that if we allow approximation to within an arbitrarily small constant factor, then all these problems can be solved using Õ(n²) messages even in the CONGEST model. 3) Linear regime: We complement the above lower bounds by showing distributed algorithms with Õ(n) message complexity that run in polylogarithmic rounds and give constant-factor approximations for all four problems on random graphs. These results imply that almost linear (in n) message complexity is achievable on almost all (connected) graphs of every edge density.

연구 동기 및 목표

• . 이 논문은 고전적인 그래프 최적화 문제에 대한 분산 알고리즘의 메시지 복잡도를 정량화하는 것을 목표로 한다.
• . 메시지 복잡도가 분산 환경에서 근사 품질과 어떻게 관련되어 있는지 이해의 격차를 메우고자 한다.
• . 연구는 최대 매칭(MaxM), 최소 정점 독립 집합(MVC), 최소 독립 집합(MDS), 최대 독립 집합(MaxIS)의 네 가지 NP-난이도 문제에 집중하며, 이는 근사 난이도의 스펙트럼을 반영한다.
• . 특히 CONGEST 및 LOCAL 모델에서 메시지 효율성과 근사 품질 사이의 상호 교환 관계를 조사한다.
• . 정확한 계산, 근사, 무작위 그래프에서의 근사 등 다양한 환경에서 날카러운 하한과 상한을 확립하는 것을 목표로 한다.

제안 방법

• . 저자들은 정보 이론적 및 통신 복잡도 기법을 사용하여, 특히 KT0 CONGEST 모델에서 ω(m) 메시지 복잡도 하한을 증명한다.
• . 감소 및 하한 구성 기법을 통해 MVC, MDS, MaxIS의 정확한 계산에 대해 Ω̃(n³) 메시지 복잡도를 확립한다.
• . 근사 문제에 대해, 차수 정규성과 고확률 농도 한계를 활용하여 무작위 그래프에서 Õ(n) 메시지 복잡도를 달성하는 랜덤화된 근사 알고리즘을 제안한다.
• . MaxM, MVC, MDS, MaxIS의 상수 요인 근사에 대해 무조건적인 Ω̃(n²) 메시지 복잡도 하한을 증명하며, 이는 메시지 크기가 무제한인 LOCAL 모델에서도 성립한다.
• . 확률이 1/r에 비례하는 랜덤 엣지 제안 기반의 메시지 효율적 알고리즘을 설계하여 매칭 안정성과 유한한 근사 요인을 보장한다 (r = Δ/δ).
• . McDiarmid의 부등식을 적용하여 r = o(n^{1/4}/log n)일 때 매칭 크기가 고확률로 농도를 이룹니다. 이는 높은 신뢰도의 근사 보장을 가능하게 한다.

실험 결과

연구 질문

• RQ1 . CONGEST 모델에서 MVC, MDS, MaxIS의 정확한 분산 계산에 대한 메시지 복잡도는 얼마인가요?
• RQ2 . MaxM, MVC, MDS, MaxIS의 상수 요인 근사가 삼차 이하의 메시지 복잡도로 계산될 수 있을까요?
• RQ3 . 메시지 크기가 무제한인 LOCAL 모델에서 근사 솔루션의 메시지 복잡도는 어떻게 되나요?
• RQ4 . 무작위 그래프에서 상수 요인 근사에 대해 near-linear 메시지 복잡도를 달성할 수 있을까요?
• RQ5 . 근사 요인이 기대값이 아니라 고확률로 성립하도록 만들 수 있으며, 어떤 조건에서 가능할까요?

주요 결과

• . MVC, MDS, MaxIS의 정확한 계산에 대한 메시지 복잡도는 Ω̃(n³)이며, 이는 O(n³) 메시지만으로도 충분하므로 사실상 날카로운 하한이다.
• . MaxM, MVC, MDS, MaxIS의 상수 요인 근사에 대해선 Ω̃(n²) 메시지가 필요하며, 이는 LOCAL 모델에서조차도, 그리고 임의의 라운드 수에서도 성립한다.
• . MDS 및 MaxIS에 대해 특정 상수 이하의 근사 요인을 달성하기 위해서도 동일한 Ω̃(n²) 하한이 성립한다.
• . 랜덤화된 근사 알고리즘이 무작위 그래프에서 Õ(n) 메시지 복잡도와 O(1) 라운드로 상수 요인 근사를 달성한다 (p ≥ 16(log n)/n).
• . 이 알고리즘은 최대 매칭에 대해 기대값으로 O(r²)-요인 근사를 제공하며, r = O(1)일 경우 (예: 정규 그래프 또는 무작위 그래프에서) 이는 O(1)이 된다.
• . r = o(n^{1/4}/log n)일 경우, McDiarmid의 부등식을 통한 농도 한계로 인해 근사 요인이 고확률로 유지된다.