[論文レビュー] Spectral clustering via adaptive layer aggregation for multi-layer networks

Sihan Huang, Haolei Weng+1 more|arXiv (Cornell University)|Dec 7, 2020

Complex Network Analysis Techniques参考文献 100被引用数 6

ひとこと要約

本稿では、多層ネットワークにおけるスペクトルクラスタリングのための適応的レイヤー集合を提案し、重み付き隣接行列の凸結合を用いてコミュニティ検出を改善する。この手法は、特別なモデル下で漸近的に誤差を最小化することで、最適な誤分類誤差を達成し、k-meansと比較してガウス・ミクスチャ・モデルを組み合わせた場合に優れた性能を示す。

ABSTRACT

One of the fundamental problems in network analysis is detecting community structure in multi-layer networks, of which each layer represents one type of edge information among the nodes. We propose integrative spectral clustering approaches based on effective convex layer aggregations. Our aggregation methods are strongly motivated by a delicate asymptotic analysis of the spectral embedding of weighted adjacency matrices and the downstream $k$-means clustering, in a challenging regime where community detection consistency is impossible. In fact, the methods are shown to estimate the optimal convex aggregation, which minimizes the mis-clustering error under some specialized multi-layer network models. Our analysis further suggests that clustering using Gaussian mixture models is generally superior to the commonly used $k$-means in spectral clustering. Extensive numerical studies demonstrate that our adaptive aggregation techniques, together with Gaussian mixture model clustering, make the new spectral clustering remarkably competitive compared to several popularly used methods.

研究の動機と目的

• 各レイヤーが異なる種類のノード関係をエンコードする多層ネットワークにおけるコミュニティ検出を解決すること。
• 一貫性が達成できない困難な漸近的領域において、誤分類誤差を最小化する凸レイヤー集合手法を開発すること。
• スペクトルクラスタリングにおいて、ガウス・ミクスチャ・モデルクラスタリングがk-meansを上回ることを示すこと。
• 特別な多層ネットワークモデル下で、提案手法に理論的保証を確立すること。

提案手法

• 複数のネットワーク・レイヤーからの重み付き隣接行列の凸結合を用いて、統一されたネットワーク表現を構築する。
• アグリゲート行列に対してスペクトルクラスタリングを適用し、隣接行列の固有値分解を用いてノードを低次元空間に埋め込む。
• 最適な凸重みは、固有値比と誤分類誤差の漸近的解析を用いて、適応的に推定される。
• スペクトル埋め込みにおける摂動効果を制御するために、修正版のDavid-Kahan定理が用いられる。
• アダマールノルムの偏差を制御するために、ラデマッハ対称化と集中不等式が用いられる。
• 埋め込み空間でのクラスタリングにガウス・ミクスチャ・モデルが用いられ、標準的なk-meansに代わって精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 個々のレイヤーが弱いかノイズが多い状況下でも、凸レイヤー集合が多層ネットワークにおけるコミュニティ検出を改善できるか？
• RQ2 困難な漸近的領域において、誤分類誤差を最小化する理論的最適なレイヤーの凸結合が存在するか？
• RQ3 スペクトルクラスタリングにおいて、ガウス・ミクスチャ・モデルクラスタリングがk-meansを上回るか？
• RQ4 固有値比とスペクトル摂動バウンドは、多層設定におけるコミュニティ検出の一貫性とどのように関係するか？

主な発見

• 提案された適応的レイヤー集合手法は、特別な多層ネットワークモデル下で誤分類誤差を最小化する最適な凸結合を達成する。
• この手法は、David-Kahan定理と集中不等式を用いて摂動のバウンディングにより、強い理論的一貫性を示す。
• 埋め込み空間におけるガウス・ミクスチャ・モデルクラスタリングは、k-meansと比較して誤分類誤差を顕著に低減する。
• 埋め込みノードベクトルの漸近的分布は、多変量正規分布に収束し、その平均と分散はコミュニティ構造とレイヤー重みに依存する。
• 固有値比と隣接行列偏差のスペクトルノルムがO_p(d_n)であることが示され、埋め込み空間における誤差制御が可能になる。
• 数値的実験により、複数のベンチマーク設定において、本手法が他の代表的手法を上回るコミュニティ検出精度を示す。