[論文レビュー] How the result of graph clustering methods depends on the construction of the graph

Markus Maier, Ulrike von Luxburg+1 more|arXiv (Cornell University)|Feb 10, 2011

Complex Network Analysis Techniques参考文献 10被引用数 7

ひとこと要約

本稿は、類似性グラフの構築——特にグラフの種別（k-NN、r-近傍、ガウス型）、パラメータ（k、r、σ）、エッジ重み——が、スプライスクラスタリングなどのグラフクラスタリングアルゴリズムの結果にどのように影響するかを調査する。正規化カット（NCut）とチーリングカット（Cheeger cut）の値が、グラフの種別に応じて異なる極限値に収束することを示しており、これは、データの背後にある分布が固定されていても、クラスタリング結果がグラフ構築法によって系統的にバイアスを受けることを示唆している。

ABSTRACT

We study the scenario of graph-based clustering algorithms such as spectral clustering. Given a set of data points, one first has to construct a graph on the data points and then apply a graph clustering algorithm to find a suitable partition of the graph. Our main question is if and how the construction of the graph (choice of the graph, choice of parameters, choice of weights) influences the outcome of the final clustering result. To this end we study the convergence of cluster quality measures such as the normalized cut or the Cheeger cut on various kinds of random geometric graphs as the sample size tends to infinity. It turns out that the limit values of the same objective function are systematically different on different types of graphs. This implies that clustering results systematically depend on the graph and can be very different for different types of graph. We provide examples to illustrate the implications on spectral clustering.

研究の動機と目的

• グラフクラスタリングの結果が類似性グラフの構築にどのように統計的に依存するかを調査すること。
• 異なるグラフ種別（k-NN、r-近傍、ガウス型）が、正規化カット（NCut）やチーリングカットといったクラスタ品質指標の収束に与える影響を分析すること。
• スペクトルクラスタリングによって得られる最適なクラスタ分割が、グラフ構築パラメータの選択によって系統的に影響を受けるかどうかを特定すること。
• 密度推定における類似した漸近的挙動にもかかわらず、異なるグラフ構築法が異なるクラスタリング結果をもたらす理由について理論的裏付けを提供すること。

提案手法

• サンプルサイズ n → ∞ のときのランダム幾何グラフにおける正規化カット（NCut）およびチーリングカットの収束に関する理論的分析。
• k-NN、r-近傍、ガウス重み付きグラフといった異なるグラフ種別におけるNCutおよびチーリングカットの極限値の研究。
• NCut目的関数におけるカット項とボリューム項の収束を分析するためのバイアスとバイアス分解の利用。
• 境界領域の影響を境界ストリップ上の積分を用いて、カット項とボリューム項に与える影響を評価する幾何確率的手法の適用。
• 帯域幅列（σₙ, rₙ）の条件を用いて、異なるグラフ構築法におけるバイアスおよびバイアス項の収束速度の導出。
• 幾何積分（F_C^(q), F_B^(q)）の結果を活用し、グラフ重みがクラスタ品質指標の極限的挙動に与える影響を特徴付けること。

実験結果

リサーチクエスチョン

• RQ1 グラフ種別（k-NN 対 r-近傍 対 ガウス型）の選択が、データセットにおける正規化カットの極限値にどのように影響するか？
• RQ2 密度推定における類似した挙動を示すにもかかわらず、なぜ異なるグラフ構築法がスペクトルクラスタリングにおいて系統的に異なる最適クラスタリングをもたらすのか？
• RQ3 異なるグラフ種別およびパラメータ列におけるNCut目的関数のバイアスおよびバイアス項の収束速度は何か？
• RQ4 境界効果は、グラフクラスタリング目的関数におけるカット項とボリューム項の収束にどのように影響するか？
• RQ5 NCut値がグラフ上で母集団の極限値にほとんど確実に収束するような理論的条件を導出できるか？

主な発見

• 正規化カット（NCut）の値は、使用するグラフの種別に応じて異なる極限値に収束するが、これはデータの背後にある分布が固定されていても同様である。
• k-NNおよびr-近傍グラフでは、NCutの極限が密度の異なるべき乗の積分として表され、結果として系統的に異なる最適クラスタリングが得られる。
• カットのバイアス項は、任意の α ∈ (0,1) に対して O(σₙ^α) のレートでゼロに収束し、適切な条件下で最適レートは σₙ = ((log n)/n)^{1/(d+3)} のとき達成される。
• カットの分散項は、nσₙ^{d+1}/log n → ∞ という条件を満たすと、ほとんど確実にゼロに収束し、これはNCut目的関数の一貫性を保証する。
• rₙ/σₙ → 0 となるガウス重み付きグラフでは、nrₙ^{d+1}/log n → ∞ という条件下で、カット項とボリューム項はそれぞれ母集団の極限値に収束する。
• 境界点のカットおよびボリュームへの影響は O(rₙ) で有界であり、漸近的状態ではエッジ効果が無視可能であることが示された。