[논문 리뷰] A Higher-Order Cheeger's Inequality

Shayan Oveis Gharan, Luca Trevisan|arXiv (Cornell University)|2011. 07. 13.

Graph theory and applications참고 문헌 15인용 수 3

한 줄 요약

이 논문은 정규화된 인접행렬에서 1에 가까운 고유값이 $k$개 존재할 경우, 그래프가 내부 컷이 희박한 $k$개의 부분집합으로 분할될 수 있음을 보여주는 고차 Cheeger 부등식을 증명함으로써 오랫동안 남아있던 추측을 해결한다. 이 결과는 정점들을 $\mathbb{R}^k$에 임bedding하고 기하학적 분할을 적용하는 방식으로 그래프를 분할하는 스펙트럴 클러스터링 방법의 이론적 기반을 제공한다.

ABSTRACT

A basic fact in algebraic graph theory is that the number of connected components in an undirected graph is equal to the multiplicity of the eigenvalue 1 in the normalized adjacency matrix of the graph. In particular, the graph is disconnected if and only if there are at least two eigenvalues equal to 1. Cheeger's inequality provides an "approximate" version of the latter fact, and it states that a graph has a sparse cut (it is "almost disconnected") if and only if there are at least two eigenvalues that are close to one. It has been conjectured that an analogous characterization holds for higher multiplicities, that is there are $k$ eigenvalues close to 1 if and only if the vertex set can be partitioned into $k$ subsets, each defining a sparse cut. In this paper we resolve this conjecture. Our result provides a theoretical justification for clustering algorithms that use the top $k$ eigenvector to embed the vertices into $\R^k$, and then apply geometric considerations to the embedding.

연구 동기 및 목표

• 정규화된 인접행렬에서 1에 가까운 $k$개의 고유값이 존재할 경우, 그래프가 내부 컷이 희박한 $k$개의 부분집합으로 분할될 수 있음을 보이는 추측을 해결하는 것.
• 정점들을 $\mathbb{R}^k$에 상위 $k$개의 고유벡터를 사용해 임bedding하고 기하학적 클러스터링을 적용하는 알고리즘의 이론적 근거를 확립하는 것.
• 원래 $k=2$에 대해 성립하던 Cheeger 부등식을 더 높은 다중성으로 확장하여 스펙트럼 성질과 그래프 구조 사이의 정량적 연결 고리를 제공하는 것.
• 1에 가까운 고유값의 다중성과 그래프 내에서 다수의 희박한 컷이 존재하는 것 사이의 관계를 체계화하는 것.

제안 방법

• 정규화된 인접행렬의 스펙트럼 성질을 분석하여 고차 Cheeger 부등식을 체계화하는 것.
• 변분 원리와 스펙트럼 갭 분석을 사용하여 1에 가까운 고유값의 다중성과 내부 확장이 작은 $k$개의 서로소 부분집합의 존재를 연결하는 것.
• 표준 Cheeger 상수를 다중 성분으로 일반화하는 $k$-way 확장의 개념을 정의하는 것.
• 스펙트럼 그래프 이론과 등면적 부등식 기법을 적용하여 $k$-분할에서 각 성분의 확장을 bound하는 것.
• 1에 가까운 고유값은 성분에서 거의 일정한 함수를 나타내므로, 확장이 낮은 $k$-분할을 구성할 수 있음을 활용하는 것.
• 상위 $k$개의 고유벡터를 사용해 정점을 $\mathbb{R}^k$에 임bedding하고, 기하학적 클러스터링을 적용하여 $k$개의 희박한 성분을 추출하는 것.

실험 결과

연구 질문

• RQ1 정규화된 인접행렬에서 $k$개의 고유값이 1에 가까운가, 이는 그래프가 내부 컷이 희박한 $k$-way 분할로 나뉘는가를 의미하는가?
• RQ2 정규화된 인접행렬의 스펙트럼 구조를 사용하여, 내부 확장이 작은 $k$개의 서로소 부분집합이 존재하는지 확인할 수 있는가?
• RQ3 고유값의 다중성과 $k$-way 그래프 분할 사이의 정량적 고차 Cheeger 부등식이 존재하는가?
• RQ4 상위 $k$개의 고유벡터 임bedding은 내부 연결성이 낮은 $k$-분할의 기하학적 구조와 어떻게 관련이 있는가?

주요 결과

• 논문은 정규화된 인접행렬에서 $\varepsilon$ 이내로 1에 가까운 고유값이 $k$개 존재할 경우, 정점 집합이 각각 확장이 $O(\sqrt{\varepsilon})$ 이하인 $k$개의 부분집합으로 분할될 수 있음을 증명한다.
• 반대로, 그래프가 확장이 작은 집합들로 $k$-way 분할이 가능할 경우, 1에 $O(\varepsilon)$ 이내로 가까운 고유값이 $k$개 존재한다.
• 이 결과는 스펙트럼 다중성과 그래프 분할 사이의 날카로운 연결 고리를 확립하며, 고전적 Cheeger 부등식을 더 높은 다중성으로 일반화한다.
• 이론적 프레임워크는 정점들을 상위 $k$개의 고유벡터로 $\mathbb{R}^k$에 임bedding하고, 내부 연결성이 낮은 다중 클러스터를 탐지하는 데에 이 방법을 사용하는 스펙트럴 클러스터링 알고리즘의 타당성을 뒷받침한다.