[論文レビュー] Analysis of spectral clustering algorithms for community detection: the general bipartite setting

Zhixin Zhou, Arash Amini|arXiv (Cornell University)|Mar 12, 2018

Complex Network Analysis Techniques被引用数 68

ひとこと要約

この論文は、一般的な二部 SBM におけるコミュニティ検出のスペクトルクラスタリングを分析し、データ駆動型正規化、新規の切り捨てバリアント、広いグラフモデルへの拡張と整合性保証を導入している。

ABSTRACT

We consider spectral clustering algorithms for community detection under a general bipartite stochastic block model (SBM). A modern spectral clustering algorithm consists of three steps: (1) regularization of an appropriate adjacency or Laplacian matrix (2) a form of spectral truncation and (3) a k-means type algorithm in the reduced spectral domain. We focus on the adjacency-based spectral clustering and for the first step, propose a new data-driven regularization that can restore the concentration of the adjacency matrix even for the sparse networks. This result is based on recent work on regularization of random binary matrices, but avoids using unknown population level parameters, and instead estimates the necessary quantities from the data. We also propose and study a novel variation of the spectral truncation step and show how this variation changes the nature of the misclassification rate in a general SBM. We then show how the consistency results can be extended to models beyond SBMs, such as inhomogeneous random graph models with approximate clusters, including a graphon clustering problem, as well as general sub-Gaussian biclustering. A theme of the paper is providing a better understanding of the analysis of spectral methods for community detection and establishing consistency results, under fairly general clustering models and for a wide regime of degree growths, including sparse cases where the average expected degree grows arbitrarily slowly.

研究の動機と目的

• 一般的な二部 SBM 設定におけるスペクトルクラスタリングの統一的分析を提供する。
• 疎なネットワークにおいて隣接行列の濃度を保証するデータ駆動型正規化を導入する。
• スペクトル切り捨ての変化とそれが誤分類率に与える影響を研究する。
• 非同形分布のランダムグラフおよびグラフン/バイクラスタリングの文脈への一貫性結果を拡張する。

提案手法

• 未知のパラメータを用いずに濃度境界を達成するデータ駆動型正規化（Algorithm 1）を提案する。
• ノイズ除去志向のスキームを含む三つのスペクトル切り捨ての変種を分析し、計算効率の良いハイブリッドを含む。
• 正則化、切り捨て、k-means の3ステップのスペクトルクラスタリングのパイプラインを設定し、一貫性の結果を導出する。
• A_re を P に結びつけるための reduced SVD と対称的膨張を導入・活用して摺動に基づく保証を可能にする。
• k-means 行列の概念を定義し、k-means ステップの局所二次連続性（LQC）条件（Equation (10)）を活用する。
• 一般 SBMs への解析を、sub-Gaussian biclustering や graphon clustering のようなモデルへ拡張する。

実験結果

リサーチクエスチョン

• RQ1 adjacency-based spectral clustering を一般的な bipartite SBM の下で一貫性を持つようにするにはどうすればよいか（疎な領域を含む）？
• RQ2 母集団パラメータアクセスなしに隣接行列の濃度を保証するデータ駆動型正規化とは何か？
• RQ3 異なるスペクトル切り捨て戦略は誤分類率と整合性にどのような影響を与えるか？
• RQ4 整合性結果を SBMs から非同形ランダムグラフや graphon biclustering へ拡張できるか？
• RQ5 全体のスペクトルクラスタリングの整合性を保証するために、k-means ステップの最小条件は何か？

主な発見

• データ駆動型正規化は一般的な SBM の下で oracle 法と同じ濃度境界を達成する（Theorem 2/Theorem 3 文中参照）。
• 三つのスペクトル切り捨て変種は異なる一貫性特性を生み出す；ノイズ除去指向の変種（Algorithm 3）とハイブリッド（Algorithm 4）は、特定条件下で従来の切り捨てと同等またはそれを上回る性能を示す。
• SC-RR と SC-RRE の変種について、一致性のある k-means（等尺変換不変）ステップで性能が等価であることを示し、対称/二部場合にも拡張される。
• フレームワークはスペクトラル濃度と摂動（対称的膨張と DK-型議論を介して）を結びつけ、 sparse および一般的な次数成長の下で適用可能な明確な誤分類界を提供する（Theorem 1 の設計図）。
• 非均一なランダムグラフと graphon clustering への拡張性を示し、SBMs を超えたスペクトル手法の広い適用性を強調する。