[논문 리뷰] Why do simple algorithms for triangle enumeration work in the real world?

Jonathan W. Berry, Luke Fostvedt외 4명|arXiv (Cornell University)|2014. 07. 04.

Complex Network Analysis Techniques참고 문헌 32인용 수 4

한 줄 요약

이 논문은 실세계 그래프에서 삼각형 열거 경로를 가장 낮은 차수의 중간 정점으로 선택하는 MinBucket 알고리즘의 높은 성능 향상을 설명한다. 이 알고리즘이 예상 실행 시간이 도로의 차수 순서의 ℓ₄/₃-노름에 의해 결정됨을 증명하여, α ≥ 7/3 인 멱법칙 차수 분포에서는 선형 시간을, α ∈ (2, 3) 인 경우는 비자명한 성능 향상을 얻는다.

ABSTRACT

Listing all triangles is a fundamental graph operation. Triangles can have important interpretations in real-world graphs, especially social and other interaction networks. Despite the lack of provably efficient (linear, or slightly super-linear) worst-case algorithms for this problem, practitioners run simple, efficient heuristics to find all triangles in graphs with millions of vertices. How are these heuristics exploiting the structure of these special graphs to provide major speedups in running time? We study one of the most prevalent algorithms used by practitioners. A trivial algorithm enumerates all paths of length $2$, and checks if each such path is incident to a triangle. A good heuristic is to enumerate only those paths of length $2$ where the middle vertex has the lowest degree. It is easily implemented and is empirically known to give remarkable speedups over the trivial algorithm. We study the behavior of this algorithm over graphs with heavy-tailed degree distributions, a defining feature of real-world graphs. The erased configuration model (ECM) efficiently generates a graph with asymptotically (almost) any desired degree sequence. We show that the expected running time of this algorithm over the distribution of graphs created by the ECM is controlled by the $\ell_{4/3}$-norm of the degree sequence. Norms of the degree sequence are a measure of the heaviness of the tail, and it is precisely this feature that allows non-trivial speedups of simple triangle enumeration algorithms. As a corollary of our main theorem, we prove expected linear-time performance for degree sequences following a power law with exponent $α\geq 7/3$, and non-trivial speedup whenever $α\in (2,3)$.

연구 동기 및 목표

• 실세계 그래프에서 최악의 이론적 복잡도가 열악한 간단한 삼각형 열거 히우리즘인 MinBucket의 경험적 성공을 설명하기 위해.
• 실세계 네트워크에서 흔한 꼬리가 두꺼운 차수 분포를 가진 그래프에서 MinBucket 알고리즘의 성능을 분석하기 위해.
• 실세계 그래프의 구조적 특성, 특히 차수 순서의 ℓ₄/₃-노름과 알고리즘의 효율성 간의 이론적 기반을 구축하기 위해.
• 실세계 그래프의 차수 분포를 가진 그래프를 생성하는 제거된 구성 모델(ERD)을 사용한 실험 결과를 통해 이론 모델을 검증하기 위해.

제안 방법

• 저자들은 실세계 그래프를 특정 차수 순서를 가진 랜덤 그래프를 생성하는 제거된 구성 모델(ERD)을 사용하여 모델링한다.
• MinBucket 알고리즘의 각 버킷에서 처리되는 경로 쌍의 기대 수를 분석하며, 특히 낮은 차수를 가진 정점의 기여에 집중한다.
• 핵심 이론적 도구로는 차수 순서의 ℓ₄/₃-노름을 사용하여 기대 작업량을 바ounds하는 것으로, 꼬리가 두꺼운 분포(유한한 ℓ₄/₃-노름을 가짐)는 이차 이하의 성능을 유도함을 보여준다.
• 기대값의 선형성과 농도 경계를 사용하여, 같은 버킷에 속하는 경로 쌍의 기대 수에 대한 渐近 표현식을 유도한다. 이는 알고리즘의 작업량에 해당한다.
• 기대 작업량이 멱법칙 차수 분포에서 유한한 상수와 n의 곱으로 수렴함을 보이기 위해 단조 수렴 정리와 尾확률 경계를 활용한다.
• 멱법칙 지수 α = 2.3 및 α = 2.4를 가진 ERD로 생성된 그래프에서의 실험 결과는 이론적 예측을 검증하며, n이 증가함에 따라 작업량이 선형 스케일에 수렴하는 것으로 나타났다.

실험 결과

연구 질문

• RQ1 최악의 시간 복잡도가 열악한 MinBucket 알고리즘이 실세계 그래프에서는 단순 알고리즘보다 현저히 빠른 성능을 보이는 이유는 무엇인가?
• RQ2 실세계 그래프의 구조, 특히 꼬리가 두꺼운 차수 분포는 MinBucket 알고리즘의 성능에 어떤 영향을 미치는가?
• RQ3 랜덤 그래프에서 MinBucket 알고리즘의 기대 실행 시간을 결정하는 차수 순서의 수학적 성질은 무엇인가?
• RQ4 어떤 멱법칙 차수 분포에서 MinBucket 알고리즘이 기대 선형 시간 복잡도를 달성하는가?
• RQ5 제거된 구성 모델(ERD)에 기반한 이론 분석은 유사한 차수 분포를 가진 합성 그래프에서의 경험적 성능과 얼마나 일치하는가?

주요 결과

• MinBucket 알고리즘의 기대 실행 시간은 차수 순서의 ℓ₄/₃-노름에 비례하는 상수배의 n으로 점 渐近적으로 유계이다.
• 멱법칙 차수 분포에서 지수 α ≥ 7/3 인 경우, MinBucket 알고리즘은 기대 선형 시간 복잡도를 달성한다.
• 멱법칙 차수 분포에서 α ∈ (2, 3) 인 경우, 알고리즘은 단순 O(∑dᵢ²) 알고리즘보다 비자명한 성능 향상을 달성한다.
• α = 2.4 인 경우의 기대 작업에 대한 이론적 상수는 약 0.687935이며, 최대 8000만 개의 노드를 가진 ERD 그래프에서의 실험 결과는 이 선형 한계에 수렴하는 것으로 나타났다.
• 실험 결과는 α = 2.4일 때 작업량 대비 n의 비율이 1 이하로 안정화됨을 보여주며, 이는 선형 스케일링 이론 예측을 확인한다.
• α = 2.3일 경우, 작업량은 초선형적으로 증가하며, ℓ₄/₃-노름의 발산이 초선형 성능을 유도한다는 이론과 일치한다.