[論文レビュー] Spectral clustering in the dynamic stochastic block model

Marianna Pensky, Teng Zhang|arXiv (Cornell University)|May 2, 2017

Complex Network Analysis Techniques参考文献 37被引用数 5

ひとこと要約

本稿では、動的確率的ブロックモデル（DSBM）に対するスペクトルクラスタリング手法を提案する。この手法は、カーネル推定を用いてエッジ確率を滑らかにすることで時変するネットワーク構造を推定し、ノードのクラスタリングにスペクトルクラスタリングを適用する。非漸近的誤差バウンドを達成し、未知の滑らかさ、スイッチングレート、クラスタ数に適応可能である。

ABSTRACT

In the present paper, we studied a Dynamic Stochastic Block Model (DSBM) under the assumptions that the connection probabilities, as functions of time, are smooth and that at most $s$ nodes can switch their class memberships between two consecutive time points. We estimate the edge probability tensor by a kernel-type procedure and extract the group memberships of the nodes by spectral clustering. The procedure is computationally viable, adaptive to the unknown smoothness of the functional connection probabilities, to the rate $s$ of membership switching and to the unknown number of clusters. In addition, it is accompanied by non-asymptotic guarantees for the precision of estimation and clustering.

研究の動機と目的

• 動的確率的ブロックモデル（DSBM）下での計算的に効率的で適応的なスペクトルクラスタリング手順の開発。
• 複数の時刻にわたる時間的連続性を活用し、カーネルスムージングを用いて時変するエッジ確率を推定する。
• 接続確率の滑らかさが未知であり、ノードの所属がクラスタ間でスイッチするレートが未知である場合でも、ノードのグループ所属を回復する。
• クラスタリングおよび推定精度に関する非漸近的理論的保証を提供する。
• 未知のクラスタ数を扱い、ネットワークダイナミクスにおける未知のスパarsityおよび滑らかさに適応する。

提案手法

• 時間的連続性を活用し、時系列に沿ったカーネル型スムージング手順を用いてエッジ確率テンソルを推定する。
• 滑らかにされた隣接行列に対してスペクトルクラスタリングを適用し、各時刻におけるノードのグループ所属を回復する。
• 時間的局所近傍における隣接行列の重み付き平均化をカーネル重み付けスキームで行い、推定の安定性を向上させる。
• 推定誤差のバウンドをスペクトルクラスタリング段階で確保するため、非漸近的集中不等式（例：補題9）を組み込む。
• データ駆動の基準を用いてバンド幅およびクラスタパラメータを適応的に選択し、未知の滑らかさおよびスイッチングレートに対応する。
• 全ノードにおける高確率でのクラスタリング精度を保証するため、和集合不等式および尾確率バウンドを用いる。

実験結果

リサーチクエスチョン

• RQ1 スペクトルクラスタリングは、時変する接続確率のもとでDSBMに適応可能であり、正確なノードクラスタリングを達成できるか？
• RQ2 接続確率の時間的滑らかさは、推定およびクラスタリング精度の向上にどのように利用可能か？
• RQ3 未知の滑らかさ、未知のスイッチングレート、未知のクラスタ数に対して、この手法はどの程度適応可能か？
• RQ4 DSBMにおけるクラスタリングおよび推定手順に対して、非漸近的誤差バウンドをどの程度確立できるか？
• RQ5 時刻間で少数のノードがコミュニティをスイッチする場合でも、この手法は高いクラスタリング精度を維持できるか？

主な発見

• 提案手法は、接続確率の滑らかさおよびスイッチングレート $ s $ に依存する非漸近的クラスタリング誤差バウンドを達成する。
• スペクトルクラスタリング手順は、エッジ確率関数の未知の滑らかさおよびノード所属スイッチの未知レート $ s $ に適応可能である。
• エッジ確率テンソルの推定誤差に対して高確率バウンドを提供し、正則性条件のもとで誤差が $ O(\sqrt{\frac{\log n}{n}}) $ に減少する。
• スペクトルクラスタリング段階が $ K $ の事前知識を必要としないため、未知のクラスタ数に対してもロバストである。
• 重み付きベルヌーイ確率変数の和に関する集中不等式を用いて理論的保証を確立し、尾確率バウンドには $ \ln t $ および $ W_{\max} $ が含まれる。
• カーネルバンド幅およびネットワークサイズに適切な条件下で、クラスタリング誤差率が $ O(n^{-\tau}) $ （任意の $ \tau > 0 $）にスケーリングする。