[논문 리뷰] Local Graph Clustering Beyond Cheeger's Inequality

Zeyuan Allen Zhu, Silvio Lattanzi외 1명|arXiv (Cornell University)|2013. 04. 30.

Complex Network Analysis Techniques참고 문헌 41인용 수 6

한 줄 요약

이 논문은 지역 그래프 클러스터링 알고리즘을 제안하며, 클러스터 내부 연결성까지 고려하여 체퍼의 부등식을 개선한다. 이로 인해 클러스터의 도우미 성능 보장이 Õ(min{√φ(A), φ(A)/√Conn(A)}), 여기서 Conn(A)는 A에 의해 유도된 부분그래프의 혼합 시간을 측정한다. 방법은 페이지랭크 기반의 랜덤 워크를 활용하며, 더 엄밀한 이론적 경계와 잘 연결된 클러스터에서 향상된 실험 성능을 제공한다.

ABSTRACT

Motivated by applications of large-scale graph clustering, we study random-walk-based LOCAL algorithms whose running times depend only on the size of the output cluster, rather than the entire graph. All previously known such algorithms guarantee an output conductance of $ ilde{O}(\sqrt{ϕ(A)})$ when the target set $A$ has conductance $ϕ(A)\in[0,1]$. In this paper, we improve it to $$ ilde{O}\bigg( \min\Big\{\sqrt{ϕ(A)}, \frac{ϕ(A)}{\sqrt{\mathsf{Conn}(A)}} \Big\} \bigg)\enspace, $$ where the internal connectivity parameter $\mathsf{Conn}(A) \in [0,1]$ is defined as the reciprocal of the mixing time of the random walk over the induced subgraph on $A$. For instance, using $\mathsf{Conn}(A) = Ω(λ(A) / \log n)$ where $λ$ is the second eigenvalue of the Laplacian of the induced subgraph on $A$, our conductance guarantee can be as good as $ ilde{O}(ϕ(A)/\sqrt{λ(A)})$. This builds an interesting connection to the recent advance of the so-called improved Cheeger's Inequality [KKL+13], which says that global spectral algorithms can provide a conductance guarantee of $O(ϕ_{\mathsf{opt}}/\sqrt{λ_3})$ instead of $O(\sqrt{ϕ_{\mathsf{opt}}})$. In addition, we provide theoretical guarantee on the clustering accuracy (in terms of precision and recall) of the output set. We also prove that our analysis is tight, and perform empirical evaluation to support our theory on both synthetic and real data. It is worth noting that, our analysis outperforms prior work when the cluster is well-connected. In fact, the better it is well-connected inside, the more significant improvement (both in terms of conductance and accuracy) we can obtain. Our results shed light on why in practice some random-walk-based algorithms perform better than its previous theory, and help guide future research about local clustering.

연구 동기 및 목표

• . 논문은 외부 도우미 성능뿐 아니라 클러스터 내부 연결성까지 고려하여 지역 그래프 클러스터링 알고리즘의 이론적 보장을 향상시키는 것을 목표로 한다.
• 이전 연구의 한계를 다루며, 외부 연결성(낮은 φ(A))만 고려하고 클러스터 내부의 연결 정도를 무시한다는 점을 지적한다.
• 출력 클러스터 크기만에 의존하는 실행 시간을 가지며, 더 뛰어난 도우미 성능와 정확도를 달성하는 지역 클러스터링 알고리즘을 개발하는 것이 목표이다.
• 일부 랜덤 워크 기반 알고리즘이 실질적으로 이론적 예측을 초월해 잘 작동하는 이유, 특히 잘 연결된 클러스터에서 그러한 현상을 설명하고자 한다.
• 내부 연결성(Conn(A))과 개선된 클러스터링 성능 간의 이론적 기반을 구축하는 것이 목적이다.

제안 방법

• . 알고리즘은 시드 노드 주변의 클러스터를 식별하기 위해 페이지랭크 기반 지역 검색을 사용하며, 랜덤 워크의 수렴 성질을 활용한다.
• 외부 도우미 성능 φ(A)와 내부 연결성 Conn(A)에 모두 의존하는 새로운 도우미 성능 보장을 도입한다. 여기서 Conn(A)는 A에 의해 유도된 부분그래프의 혼합 시간의 역수로 정의된다.
• 새로운 잠재함수와 泄漏 기반 추론을 사용하여 페이지랭크 감쇠를 경계함으로써, 잘 연결된 클러스터(높은 Conn(A))가 더 나은 도우미 성능 보장을 이끌어낸다는 것을 분석한다.
• 반복적인 푸시-릴레이 방식 알고리즘(Approximate-PR)을 통해 근사 페이지랭크 계산을 구현하며, 제한된 지지체적 부피를 유지하는 ε-근사 페이지랭크 벡터를 유지한다.
• 이론적 분석을 통해 출력 집합의 도우미 성능이 Õ(min{√φ(A), φ(A)/√Conn(A)}), 이는 이전의 Õ(√φ(A)) 보다 향상된 것이다.
• 이론적 하한을 통해 분석의 날카로움을 입증하고, 합성 및 실제 그래프에서 성능을 검증한다.

실험 결과

연구 질문

• RQ1 . 내부 클러스터 연결성(Conn(A))을 활용하여, 외부 도우미 성능 외에도 지역 그래프 클러스터링의 이론적 보장을 향상시킬 수 있는가?
• RQ2 . 랜덤 워크 기반 지역 클러스터링 알고리즘의 성능은 클러스터의 내부 구조, 특히 혼합 시간에 따라 어떻게 달라지는가?
• RQ3 . 향상된 도우미 성능 보장이 클러스터링 정밀도와 재현율 향상에 얼마나 기여하는가?
• RQ4 . 일부 지역 클러스터링 알고리즘이 이론적 경계를 초월해 실질적으로 더 잘 작동하는 이유는 무엇이며, 특히 잘 연결된 클러스터에서 그러한 현상이 발생하는 이유는 무엇인가?
• RQ5 . 새로운 도우미 성능 경계 Õ(min{√φ(A), φ(A)/√Conn(A)})는 날카로운가? 그리고 출력 크기 의존적 실행 시간을 가지는 지역 알고리즘으로 달성 가능한가?

주요 결과

• . 논문은 Õ(min{√φ(A), φ(A)/√Conn(A)})의 새로운 도우미 성능 보장을 달성하였으며, Conn(A)가 클 경우 이전의 Õ(√φ(A)) 보다 향상된다.
• Conn(A) = Ω(λ(A)/log n)인 잘 연결된 클러스터에서는 도우미 성능 보장이 Õ(φ(A)/√λ(A))로 줄어들며, 이는 글로벌 스펙트럴 방법의 개선된 체퍼의 부등식과 일치한다.
• 이론적 분석을 통해 제안된 알고리즘의 성능가 날카로운 것으로 밝혀졌으며, 추가 가정 없이 이 경계를 크게 향상시킬 수 없다.
• 합성 및 실제 그래프에서의 실험 평가를 통해, 특히 내부 연결성이 높은 클러스터에서 기존 방법보다 알고리즘이 뛰어난 성능을 보임을 확인하였다.
• 내부 연결성이 지역 클러스터링의 핵심 매개변수임을 규명하였으며, 이는 현재의 랜덤 워크 기반 알고리즘에서 이론과 실천 간 격차를 설명한다.
• 알고리즘은 작은 출력 지지체적 부피를 유지하며, 출력 클러스터 크기만에 의존하는 실행 시간을 갖는다. 이는 확장성을 유지한다.