[論文レビュー] A Higher-Order Cheeger's Inequality

Shayan Oveis Gharan, Luca Trevisan|arXiv (Cornell University)|Jul 13, 2011

Graph theory and applications参考文献 15被引用数 3

ひとこと要約

この論文は、正規化隣接行列の固有値が1に近いものが $k$ 個存在するかどうかに基づき、グラフが $k$ 個の部分集合に分割可能であるかどうかを特徴づける、高次元のチーホーファー不等式を証明することで、長年の予想を解決した。各部分集合が内部で疎なカットを持つことを保証する。この結果は、頂点を $\mathbb{R}^k$ に埋め込み、幾何的クラスタリングを適用することでグラフを分割するスペクトルクラスタリング手法の理論的基盤を提供する。

ABSTRACT

A basic fact in algebraic graph theory is that the number of connected components in an undirected graph is equal to the multiplicity of the eigenvalue 1 in the normalized adjacency matrix of the graph. In particular, the graph is disconnected if and only if there are at least two eigenvalues equal to 1. Cheeger's inequality provides an "approximate" version of the latter fact, and it states that a graph has a sparse cut (it is "almost disconnected") if and only if there are at least two eigenvalues that are close to one. It has been conjectured that an analogous characterization holds for higher multiplicities, that is there are $k$ eigenvalues close to 1 if and only if the vertex set can be partitioned into $k$ subsets, each defining a sparse cut. In this paper we resolve this conjecture. Our result provides a theoretical justification for clustering algorithms that use the top $k$ eigenvector to embed the vertices into $\R^k$, and then apply geometric considerations to the embedding.

研究の動機と目的

• 正規化隣接行列に $k$ 個の固有値が1に近い場合、グラフが疎なカットを持つ $k$ 個の部分集合に分割可能であるという予想を解決すること。
• 頂点を $\mathbb{R}^k$ に埋め込み、幾何的クラスタリングを適用する手法を用いたクラスタリングアルゴリズムの理論的裏付けを確立すること。
• 元々 $k=2$ の場合にのみ成り立つチーホーファー不等式を、より高い重複度にまで拡張し、スペクトル的性質とグラフ構造との間の定量的関係を提供すること。
• 固有値が1に近い重複度と、グラフ内に複数の疎なカットが存在することとの間の関係を形式化すること。

提案手法

• 正規化隣接行列のスペクトル的性質を分析することで、高次元チーホーファー不等式を形式化すること。
• 変分原理とスペクトルギャップの議論を用いて、1に近い固有値の重複度を、内部拡張が小さい $k$ 個の互いに素な部分集合の存在と関連付けること。
• 標準的なチーホーファー定数を複数の成分に一般化する「$k$ 方向拡張」という概念を定義すること。
• スペクトルグラフ理論と等周不等式の技術を適用し、$k$ 分割における各成分の拡張を評価すること。
• 固有値が1に近いということは、各成分上でほぼ定数関数であることを示唆するため、拡張が小さい $k$ 分割を構成可能であることを活用すること。
• 頂点を $\mathbb{R}^k$ に埋め込むために上位 $k$ 個の固有ベクトルを用い、その後幾何的クラスタリングを適用して $k$ 個の疎な成分を抽出すること。

実験結果

リサーチクエスチョン

• RQ1 正規化隣接行列に $k$ 個の固有値が1に近い場合、疎なカットを持つ $k$ 分割が存在すると言えるか？
• RQ2 正規化隣接行列のスペクトル構造を用いて、内部拡張が小さい $k$ 個の互いに素な部分集合が存在することを証明できるか？
• RQ3 固有値の重複度と $k$ 分割との関係を定量的に示す、チーホーファー不等式の高次元版が存在するか？
• RQ4 上位 $k$ 個の固有ベクトルによる埋め込みは、疎なカットを持つ $k$ 分割の幾何的構造とどのように関係するか？

主な発見

• この論文は、正規化隣接行列に $\varepsilon$ 以内で1に近い固有値が $k$ 個存在するならば、頂点集合を $k$ 個の部分集合に分割でき、各部分集合の拡張は $O(\sqrt{\varepsilon})$ 以下であると証明している。
• 逆に、グラフが内部拡張が小さい $k$ 個の部分集合に分割可能であるならば、$O(\varepsilon)$ 以内で1に近い固有値が $k$ 個存在する。
• この結果により、スペクトル的重複度とグラフ分割との間にきわめて密接な関係が確立され、古典的なチーホーファー不等式がより高い重複度にまで一般化された。
• 理論的枠組みにより、疎な内部接続を持つ複数のクラスタを検出するためのスペクトルクラスタリングアルゴリズムにおける上位 $k$ 個の固有ベクトルの使用が正当化された。