[論文レビュー] AMOS: An Automated Model Order Selection Algorithm for Spectral Graph Clustering

Pin‐Yu Chen, Thibaut Gensollen+1 more|arXiv (Cornell University)|Sep 21, 2016

Complex Network Analysis Techniques参考文献 24被引用数 3

ひとこと要約

AMOS は、ランダム相互接続モデル（RIM）下での統計的信頼性指標を用いて段階的にクラスタリングをテストすることで、最小のモデル次数を保証するスペクトルグラフクラスタリングの自動モデル次数選択アルゴリズムである。実世界のデータセットにおいて、複数の外部および内部クラスタリング指標で既存手法を上回る性能を発揮する。

ABSTRACT

One of the longstanding problems in spectral graph clustering (SGC) is the so-called model order selection problem: automated selection of the correct number of clusters. This is equivalent to the problem of finding the number of connected components or communities in an undirected graph. In this paper, we propose AMOS, an automated model order selection algorithm for SGC. Based on a recent analysis of clustering reliability for SGC under the random interconnection model, AMOS works by incrementally increasing the number of clusters, estimating the quality of identified clusters, and providing a series of clustering reliability tests. Consequently, AMOS outputs clusters of minimal model order with statistical clustering reliability guarantees. Comparing to three other automated graph clustering methods on real-world datasets, AMOS shows superior performance in terms of multiple external and internal clustering metrics.

研究の動機と目的

• スペクトルグラフクラスタリングにおける長年のモデル次数選択問題に取り組む—正しいクラスタ数を自動的に特定すること。
• ランダム相互接続モデル（RIM）下で、スペクトルグラフクラスタリングにおけるクラスタリング信頼性に統計的保証を提供すること。
• 高いクラスタリング品質を保証しながら、最小のクラスタ数を特定する自動化アルゴリズムを開発すること。
• 固有ベクトル選択に理論的根拠のないヒューリスティックまたは最適化ベースの手法の限界を克服すること。
• 真のクラスタ数を事前に知らなくても、実世界のグラフに対して堅牢で信頼性が高く自動化されたクラスタリングを可能にすること。

提案手法

• 2から最大値まで段階的にクラスタ数を増加させ、各ステップでスペクトルグラフクラスタリングを適用する。
• ランダム相互接続モデル（RIM）を用いて、クラスタ間接続を独立したベルヌーイ分布または有界重みの確率変数としてモデル化する。
• 最大のクラスタ間エッジ重み比に基づく多段階の統計的仮説検定を用いてクラスタリング信頼性を推定する。
• 最大クラスタ間重み比に対する信頼区間検定を実施し、現在のクラスタリングが統計的に信頼できるかどうかを評価する。
• 条件 $\prod_{i<j} F_{ij}(\widehat{t}_{\text{LB}} / \widehat{\overline{W}}_{ij}, \widehat{p}_{ij}) \geq 1 - \alpha'$ を用いて信頼性を検証する。ここで $F_{ij}$ は正規分布関数とインジケータ関数を組み合わせた関数である。
• すべての信頼性検定に合格する最小の $K$ で処理を終了し、統計的信頼性を伴う最小のモデル次数を保証する。

実験結果

リサーチクエスチョン

• RQ1 ランダム相互接続モデル（RIM）下で、統計的に信頼できるクラスタリングをもたらす最小のクラスタ数は何か？
• RQ2 真のクラスタ数を事前に知らない状況で、どのようにスペクトルグラフクラスタリングを自動的に設定できるか？
• RQ3 統計的仮説検定を用いることで、スペクトルクラスタリングにおけるクラスタリング信頼性を原理的かつ整合的に検証できるか？
• RQ4 AMOS は、外部および内部クラスタリング指標において、既存の自動クラスタリング手法と比較してどのように異なるか？
• RQ5 提案手法は、さまざまなクラスタ構成を有する多様な実世界のグラフ構造においても高い性能を維持できるか？

主な発見

• IEEE RTS データセットでは、AMOS が最も高い正規化相互情報量（NMI）0.89 を達成し、Louvain（0.74）、NB（0.75）、ST（0.73）を上回った。
• Hibernia データセットでは、AMOS が最高のランダムインデックス（RI）1.0 および F-スコア 0.94 を達成し、他のすべての手法を上回った。
• Cogent データセットでは、AMOS が4つのクラスタを特定し、最小の正規化カット（NC）0.036 を達成し、NB（0.073）および ST（0.148）を上回った。
• ミネソタ道路網では、AMOS が46のクラスタを選択し、最高のコンダクタンス（C）0.074 を達成した。Louvain（0.290）および NB（0.186）を上回った。
• Facebook ネットワークでは、AMOS が最小の F-スコア（0.004）およびコンダクタンス（0.006）を達成し、高い複雑性にもかかわらず優れた性能を示した。
• すべてのデータセットにおいて、AMOS は大多数のクラスタリング指標で最高または同等の性能を発揮し、堅牢性と信頼性を示した。