[論文レビュー] Estimating Mixed Memberships With Sharp Eigenvector Deviations

Xueyu Mao, Purnamrita Sarkar+1 more|arXiv (Cornell University)|Sep 1, 2017

Complex Network Analysis Techniques参考文献 34被引用数 16

ひとこと要約

本稿は、混合-membership ストークスティック・ブロックモデル（MMSB）におけるネットワークの混合-membership推定のための新規スペクトル的アルゴリズムを提案する。鋭い行単位の固有ベクトルのずれの上限と、刈り込みを用いた幾何学的コーナー同定手法を活用し、重なり型コミュニティ検出において、ノードごとの一様収束レートを初めて確立する。これは、ネットワークサイズに応じて多対数的に増加する平均次数に対しても有効であり、100,000ノードに達するまでのシミュレート済みおよび実世界のネットワークにおいて、精度と速度の両面で既存手法を上回る性能を発揮する。

ABSTRACT

We consider the problem of estimating community memberships of nodes in a network, where every node is associated with a vector determining its degree of membership in each community. Existing provably consistent algorithms often require strong assumptions about the population, are computationally expensive, and only provide an overall error bound for the whole community membership matrix. This paper provides uniform rates of convergence for the inferred community membership vector of each node in a network generated from the Mixed Membership Stochastic Blockmodel (MMSB); to our knowledge, this is the first work to establish per-node rates for overlapping community detection in networks. We achieve this by establishing sharp row-wise eigenvector deviation bounds for MMSB. Based on the simplex structure inherent in the eigen-decomposition of the population matrix, we build on established corner-finding algorithms from the optimization community to infer the community membership vectors. Our results hold over a broad parameter regime where the average degree only grows poly-logarithmically with the number of nodes. Using experiments with simulated and real datasets, we show that our method achieves better error with lower variability over competing methods, and processes real world networks of up to 100,000 nodes within tens of seconds.

研究の動機と目的

• MMSBモデル下での重なり型コミュニティ検出に向けた、従来の確率的整合性を持つアルゴリズムに見られるノードごとの収束保証の欠如に対処すること。
• 全体の行列誤差ではなく、各ノードの推定メンバー構成ベクトルに対する一様誤差境界を提供する計算効率の良い手法を開発すること。
• 平均次数がノード数の多対数的に増加するスパースネットワークに対しても理論的保証を拡張すること。
• 固有ベクトル分解における単体構造を活用することで、大規模ネットワークにおける正確でスケーラブルな推論を可能にすること。
• 事前に濃度パラメータ α₀ の知識を必要としない刈り込みに基づくコーナー同定手順を設計し、純粋ノードを信頼性高く同定すること。

提案手法

• MMSBモデルにおける母集団行列の鋭い行単位の固有ベクトルのずれの上限を導出することで、ノードごとの一様収束レートを可能にする。
• 母集団行列の固有分解に内在する単体構造を用いて、コミュニティメンバーシップベクトルを同定する。
• 局所的な密度に基づいて非コーナー点を削除する刈り込みアルゴリズムを適用し、真のコミュニティコーナーを保持する。
• 回転不変性を持つ正規化を固有ベクトルに適用し、実測固有ベクトルを母集団の単体構造に一致させる。
• 最適化文献に由来する幾何学的コーナー同定戦略をネットワークデータに適応し、有限標本保証を備えた手法を統合する。
• 従来の手法とは異なり、[4] と同様に濃度パラメータ α₀ の事前知識を必要としない。

実験結果

リサーチクエスチョン

• RQ1 MMSBモデル下での混合-membership推定に対して、ノードごとの一様収束レートを確立できるか？
• RQ2 スパースネットワークにおけるノードごとの推論を支援するため、鋭い固有ベクトルのずれの上限をどのように導出できるか？
• RQ3 α₀ に関する事前知識が欠如している状況でも、幾何学的アルゴリズムが純粋ノードを信頼性高く同定できるか？
• RQ4 提案手法の誤差、ばらつき、およびスケーラビリティの観点での性能は、大規模な実世界ネットワークにおいてどのように評価できるか？
• RQ5 刈り込み機構は、真のコミュニティコーナーを保持しつつ、誤検出された点をどのように除去するか？

主な発見

• 提案手法は、MMSB下での重なり型コミュニティ検出において、コミュニティメンバーシップベクトルのノードごとの一様収束レートを達成した。これは本分野における初の成果である。
• アルゴリズムは、ネットワークサイズに伴い良好にスケーリングする誤差境界を提供し、平均次数が任意の c > 0 に対して O((log n)^c) の割合で増加する場合でも有効である。
• 実験の結果、提案手法は、SVI や OCCAM、GeoNMF などの競合手法と比較して、誤差が低く、ばらつきも小さいことが示された。
• 本手法は、最大 100,000 ノードのネットワークを数十秒で処理でき、高い計算効率を示した。
• 刈り込み手順は、多様な設定において真のコミュニティコーナーを的確に保持した。高ノルムノードのほとんどが除去されたが、極端な状況（例：K=10, n=2000）を除いては、真のコーナーは保持された。
• 特にコミュニティ類似度行列 B の非対角成分に高いノイズが存在する状況では、GeoNMF や BSNMF よりも優れた性能を発揮した。