[論文レビュー] ALMA: Alternating Minimization Algorithm for Clustering Mixture Multilayer Network

Xing Fan, Marianna Pensky+2 more|arXiv (Cornell University)|Feb 20, 2021

Tensor decomposition and applications参考文献 33被引用数 8

ひとこと要約

本稿では、層が異なるタイプにグループ化され、各タイプが固有のコミュニティ構造と接続確率行列を持つ混合多層ストークスティック・ブロック・モデル（MMLSBM）のクラスタリングのための交互最小化アルゴリズムであるALMAを提案する。TWISTのような先行のテンソル分解手法と比較して、理論的・数値的精度が向上する。

ABSTRACT

The paper considers a Mixture Multilayer Stochastic Block Model (MMLSBM), where layers can be partitioned into groups of similar networks, and networks in each group are equipped with a distinct Stochastic Block Model. The goal is to partition the multilayer network into clusters of similar layers, and to identify communities in those layers. Jing et al. (2020) introduced the MMLSBM and developed a clustering methodology, TWIST, based on regularized tensor decomposition. The present paper proposes a different technique, an alternating minimization algorithm (ALMA), that aims at simultaneous recovery of the layer partition, together with estimation of the matrices of connection probabilities of the distinct layers. Compared to TWIST, ALMA achieves higher accuracy both theoretically and numerically.

研究の動機と目的

• 多層ネットワークにおいてすべての層に共通のコミュニティ構造を仮定する既存手法の制限を解決すること。
• 同じネットワークのグループに類似した層を同時にクラスタリングし、各グループ内でコミュニティ検出を行う手法を開発すること。
• TWISTという先行の正則化テンソル分解手法の理論的根拠があり、数値的に優れた代替手法を提供すること。
• 脳ネットワーク解析のような実世界の応用で一般的な、ノード数より層数が多い状況を扱えること。
• MMLSBMフレームワーク下で、層の分割と接続確率行列の推定の両方に対して、ロバストで高精度な推定を保証すること。

提案手法

• MMLSBMを、Tucker分解構造を持つ低ランクテンソル推定問題として定式化する。
• 層の割り当て、コミュニティ所属、接続確率行列を交互に更新する交互最小化アルゴリズム（ALMA）を提案する。
• 推定の安定化と収束性の向上のため、直交行列制約と特異値しきい値処理を用いる。
• 摂動解析を用いて、推定された層所属行列とコミュニティ構造の誤差を上限で評価する。
• 初期推定後に(1+ε)-K-meansクラスタリング手順を統合し、理論的誤分類バインディングを用いて層クラスタリングを精緻化する。
• 行列集中不等式と行列摂動理論を活用して、推定精度に関する高確率誤差バインディングを導出する。

実験結果

リサーチクエスチョン

• RQ1 交互最小化フレームワークは、MMLSBMにおけるテンソル分解と比較して、より高いクラスタリングおよびコミュニティ検出精度を達成できるか？
• RQ2 先行手法が失敗する、ノード数より層数が多い状況において、ALMAはどのように性能を発揮するか？
• RQ3 ALMAにおける層クラスタリングおよびコミュニティ検出の理論的誤差バインディングは何か？
• RQ4 多層ネットワークにおいて、異なる層グループ間で異なったコミュニティ構造を持つ場合、アルゴリズムはどのように対処するか？
• RQ5 高次元的かつノイズの多いネットワークデータ下でも、ALMAは層タイプとコミュニティ割り当ての一貫した回復を達成できるか？

主な発見

• ALMAは、特にノード数に比べて層数が多い状況において、TWISTよりも理論的・数値的精度が優れている。
• アルゴリズムは、初期層割り当て行列の二乗誤差に比例する項に比例した誤分類層数が有界であることを保証する。
• 理論的バインディングにより、Tuckerランクと特異値に関する適切な条件下で、層所属推定の誤差がネットワークサイズと信号強度の増加に伴い減少することが示された。
• 有界なスペクトルノルムとコアテンソルの最小特異値を満たすような弱い正則性条件のもとで、ALMAの収束が保証される。
• コミュニティが層グループ間で異なる場合でも、ALMAは層クラスタリングおよびコミュニティ検出の両方について一貫した推定器を提供する。
• 実験結果により、ALMAはコミュニティ検出タスクにおいて、正準相互情報量（NMI）および調整ランダムインデックス（ARI）の観点でTWISTを上回ることが示された。