[論文レビュー] Phase Transitions and a Model Order Selection Criterion for Spectral Graph Clustering

Pin‐Yu Chen, Alfred O. Hero|arXiv (Cornell University)|Apr 11, 2016

Complex Network Analysis Techniques参考文献 51被引用数 12

ひとこと要約

本稿では、ランダム相互接続モデル（RIM）下での位相転移解析を用いて、スペクトルグラフクラスタリングにおけるクラスタ数の選択に向けた新規基準である自動モデル順序選択（AMOS）を提案する。相互クラスタ接続確率の臨界閾値 $p^*$ を特定することにより、相互接続がこの閾値未満である場合には信頼性のあるクラスタリングを保証し、対称的非負行列における隠れたブロック構造を正確に検出可能となる。実世界のネットワークにおいても、既存手法を上回る性能を発揮する。

ABSTRACT

One of the longstanding open problems in spectral graph clustering (SGC) is the so-called model order selection problem: automated selection of the correct number of clusters. This is equivalent to the problem of finding the number of connected components or communities in an undirected graph. We propose automated model order selection (AMOS), a solution to the SGC model selection problem under a random interconnection model (RIM) using a novel selection criterion that is based on an asymptotic phase transition analysis. AMOS can more generally be applied to discovering hidden block diagonal structure in symmetric non-negative matrices. Numerical experiments on simulated graphs validate the phase transition analysis, and real-world network data is used to validate the performance of the proposed model selection procedure.

研究の動機と目的

• スペクトルグラフクラスタリングにおける長年のモデル順序選択問題に取り組むこと——自動的に正しいクラスタ数を特定すること。
• 相互クラスタ接続性に基づいて、スペクトルクラスタリングが失敗または成功する理論的条件を確立すること。
• 位相転移閾値を活用して信頼性のあるクラスタ数を自動選択する実用的で自動化された手法（AMOS）を開発すること。
• 地図的・コミュニティ構造を持つ実世界ネットワークと、合成グラフの両方で手法を検証すること。
• 位相転移解析を非加重グラフから重み付きグラフへ拡張し、非一様RIMに応用すること。

提案手法

• クラスタ内接続は任意であり、クラスタ間エッジは確率的であるというランダム相互接続モデル（RIM）を提案し、スペクトルクラスタリングの性能に関する理論的分析を可能にする。
• RIM下でのグラフラプラシアン固有値スペクトルの漸近的解析を用いて、スペクトルクラスタリングの崩壊条件を導出する。
• スペクトルクラスタリングが $p < p^*$ のとき成功し、$p > p^*$ のとき失敗するような臨界位相転移閾値 $p^*$ を特定する。
• 二項同質性検定と位相転移閾値を用いて局所的・大域的RIM構造をテストする逐次的モデル順序選択アルゴリズムAMOSを構築する。
• デイビス＝カハン $\sin\theta$ 定理を用いて固有ベクトルの摂動をバインドし、ラプラシアン固有空間の収束条件を導出する。
• 非負で対称な行列に本手法を適用し、グラフに限定されない隠れたブロック対角構造の検出を可能にする。

実験結果

リサーチクエスチョン

• RQ1 RIM下で、スペクトルクラスタリングが真のクラスタを回復できなくなる相互クラスタ接続確率の臨界閾値 $p^*$ は何か？
• RQ2 重み付きグラフにおいて、スペクトルクラスタリングの位相転移行動は、クラスタサイズ分布および相互クラスタエッジ重みにどのように依存するか？
• RQ3 位相転移解析を用いて、スペクトルグラフクラスタリングにおけるクラスタ数選択の信頼性の高い自動基準を構築可能か？
• RQ4 AMOSアルゴリズムは、選択されたモデル順序が信頼性のあるクラスタリング解に対応することをどのように保証するか？
• RQ5 既知のコミュニティ構造または地理的構造を持つ実世界ネットワークにおいて、AMOSは既存手法に比べてどの程度クラスタリング精度を向上させるか？

主な発見

• 同質的RIM下では、$p < p^*$ のときスペクトルクラスタリングが完全にクラスタを検出可能であり、$p > p^*$ のとき失敗することが確認された。
• 下限 $p_{\text{LB}} = \frac{c^*}{(K-1)\rho_{\max}}$ および上限 $p_{\text{UB}} = \frac{c^*}{(K-1)\rho_{\min}}$ が得られ、ここで $c^*$ はラプラシアンの漸近的正規化トレースである。
• AMOSはRIM構造のテストと、推定された相互クラスタ確率が $p^*$ を超えるか否かのチェックにより、シミュレーショングラフで正しいクラスタ数を的確に特定した。
• インターネットバックボーンやミネソタ州の道路網といった実世界ネットワークにおいて、AMOSはベースライン手法よりも地理的・既知のコミュニティ構造と整合性の高いクラスタを生成した。
• 相互クラスタ接続確率が位相転移閾値を超えるモデル順序を除外することで、クラスタリングの信頼性を向上させ、安定した解のみを選択する。
• 数値実験により、位相転移解析がさまざまなネットワークモデルおよび重み分布において、スペクトルクラスタリングの性能を正確に予測できることを確認した。