[論文レビュー] A Statistical Density-Based Analysis of Graph Clustering Algorithm Performance

Pierre Miasnikof, Alexander Y. Shestopaloff+3 more|arXiv (Cornell University)|Jun 6, 2019

Complex Network Analysis Techniques参考文献 53被引用数 4

ひとこと要約

本論文は、グローバル密度、クラスタ内密度、クラスタ間密度を比較することにより、グラフクラスタリングの品質を客観的に評価する統計的で密度に基づくフレームワークを提案する。非生成的ノイズモデルと修正されたt検定を用いることで、統計的に有意で、公理的かつ頑健な評価が可能となり、モジュラリティやコンダクタンスよりも感度、数値的安定性、クラスタリング品質の公理との一貫性において優れている。

ABSTRACT

Measuring graph clustering quality remains an open problem. To address it, we introduce quality measures based on comparisons of intra- and inter-cluster densities, an accompanying statistical test of the significance of their differences and a step-by-step routine for clustering quality assessment. Our null hypothesis does not rely on any generative model for the graph, unlike modularity which uses the configuration model as a null model. Our measures are shown to meet the axioms of a good clustering quality function, unlike the very commonly used modularity measure. They also have an intuitive graph-theoretic interpretation, a formal statistical interpretation and can be easily tested for significance. Our work is centered on the idea that well clustered graphs will display a significantly larger intra-cluster density than inter-cluster density. We develop tests to validate the existence of such a cluster structure. We empirically explore the behavior of our measures under a number of stress test scenarios and compare their behavior to the commonly used modularity and conductance measures. Empirical stress test results confirm that our measures compare very favorably to the established ones. In particular, they are shown to be more responsive to graph structure and less sensitive to sample size and breakdowns during numerical implementation and less sensitive to uncertainty in connectivity. These features are especially important in the context of larger data sets or when the data may contain errors in the connectivity patterns.

研究の動機と目的

• 生成的ノイズモデルに依存しないグラフクラスタリング品質の測定という未解決問題に取り組む。
• 良いクラスタリングを満たす公理を満たす、厳密で統計的に根拠のある品質関数を定義する。
• 数値的不安定性やスパースな接続性に対しても頑健な、有意性検定フレームワークを開発する。
• 密度に基づく指標と統計的推論を用いて、クラスタリングアルゴリズムの性能を客観的に比較する。
• モジュラリティやコンダクタンスの限界、例えば構造への感受性の低さやストレス状態での失敗を克服する。

提案手法

• 本手法は、3つの主要な密度指標を定義する：グローバル密度（K）、平均クラスタ内密度（K_intra）、平均クラスタ間密度（K_inter）。
• クラスタ割り当てをランダム化することで、構成モデルのようなモデルに依存しない非生成的ノイズモデルに基づく統計的検定を導入する。
• K_intraとK_interの比較に修正された2標本t検定を適用し、退化した状況（例：クラスタ間エッジが0本）に対処するため、モンテカルロ再サンプリングによる標準誤差推定を実施する。
• 帰無仮説H₀: K_intra = K_interの検定を行い、棄却された場合に統計的に有意なクラスタリングが得られたと判断する。
• 2つのアルゴリズムを比較するためのヒューリスティック検定フレームワークを含み、p値の差を用いてクラスタリング品質を順位付けする。
• 合成グラフおよび実際のグラフを用いたストレステストを通じて、本手法の妥当性を検証し、モジュラリティやコンダクタンスと比較した。

実験結果

リサーチクエスチョン

• RQ1 生成的グラフモデルに依存しない、統計的に厳密でかつ信頼性のあるクラスタリング品質測定指標を開発できるか？
• RQ2 本手法は、グラフ構造への感受性と数値的頑健性において、モジュラリティやコンダクタンスと比較してどう異なるか？
• RQ3 本手法は、単調性や一貫性といった良いクラスタリング品質関数の公理を満たしているか？
• RQ4 クラスタ間エッジ数が0またはその近辺であっても、有意性を信頼性高く評価できるか？
• RQ5 エッジケースのシナリオにおいて、意味のあるクラスタリングとランダムまたは劣悪なクラスタリングを区別できるか？

主な発見

• 本手法は、特にストレステストのシナリオにおいて、モジュラリティやコンダクタンスよりも実際のクラスタ構造への感受性が顕著に優れていた。
• Louvainアルゴリズムではp値が約0.0であったため、帰無仮説が強く棄却され、統計的に有意なクラスタリングであると確認された。
• ALPアルゴリズムではp値が約0.1であったため、帰無仮説が棄却されず、クラスタ内とクラスタ間の密度に有意な差がないことが示された。
• 本手法は、モンテカルロベースの標準誤差推定により、ALPですべてのクラスタ間エッジが0本であった場合でも、有効なt統計量とp値を計算できた。
• 2アルゴリズムヒューリスティック検定では、p値の差が約0.10であったため、LouvainがALPよりも優れたクラスタを生成したという追加的証拠が得られた。
• 本手法は、モジュラリティよりも数値的崩壊のリスクが低く、良いクラスタリング品質関数の公理とより一貫していた。