[論文レビュー] Consistency of adjacency spectral embedding for the mixed membership stochastic blockmodel

Patrick Rubin‐Delanchy, Carey E. Priebe+1 more|arXiv (Cornell University)|May 12, 2017

Complex Network Analysis Techniques参考文献 22被引用数 12

ひとこと要約

本稿は、無向混合所属 stochastic blockmodel (MMSBM) に対する隣接スペクトル埋め込み（ASE）と最小体積包囲凸多面体（MVECP）フィッティングの整合性を確立する。MMSBM をランダムドット積图形（RDPG）に結びつけることで、著者らは $2\to\infty$ ノルムの結果を用いて整合性を証明し、アスキーントティック正規性に基づく中心極限定理を用いて有限標本バイアスを是正し、単純でスケーラブルな手順により漸近的に整合性のある推定を達成する。

ABSTRACT

The mixed membership stochastic blockmodel is a statistical model for a graph, which extends the stochastic blockmodel by allowing every node to randomly choose a different community each time a decision of whether to form an edge is made. Whereas spectral analysis for the stochastic blockmodel is increasingly well established, theory for the mixed membership case is considerably less developed. Here we show that adjacency spectral embedding into $\mathbb{R}^k$, followed by fitting the minimum volume enclosing convex $k$-polytope to the $k-1$ principal components, leads to a consistent estimate of a $k$-community mixed membership stochastic blockmodel. The key is to identify a direct correspondence between the mixed membership stochastic blockmodel and the random dot product graph, which greatly facilitates theoretical analysis. Specifically, a $2 ightarrow \infty$ norm and central limit theorem for the random dot product graph are exploited to respectively show consistency and partially correct the bias of the procedure.

研究の動機と目的

• 混合所属 stochastic blockmodel (MMSBM) に対するスペクトル埋め込みの理論的整合性を確立すること。MMSBM は広く用いられているが、理論的整備が不十分なネットワークモデルである。
• スペクトル手法とMMSBMの間のギャップを埋めるために、MMSBM がランダムドット積图形（RDPG）と同等であることを示し、既存のRDPG理論の利用を可能にする。
• ASEとMVECPフィッティングに基づく単純でスケーラブルな推定手順を提案し、コミュニティ検出に整合性をもたせる。
• スペクトル埋め込み理論からの漸近正規性を用いて、MMSBM推定における有限標本バイアスを定量化・是正する。
• MCMC や変分推論といった複雑な推論手法の理論的裏付けが強く、計算効率の良い代替手法を提供すること。

提案手法

• ノードの所属ベクトルを $\mathbb{R}^k$ 内の潜在的位置にマッピングすることで、MMSBM をランダムドット積图形（RDPG）として再定式化する。
• 観測された隣接行列 $A$ に隣接スペクトル埋め込み（ASE）を適用し、推定された潜在的位置 $\hat{X}_i \in \mathbb{R}^k$ を得る。
• 埋め込み点の $k-1$ 個の主要成分に最小体積包囲凸 $k$-多面体（MVECP）をフィッティングし、コミュニティ構造を推定する。
• RDPGスペクトル埋め込みにおける $2\to\infty$ ノルムの結果を用いて整合性を確立し、推定された潜在的位置が真の位置に収束することを保証する。
• アスキーントティック正規性に基づく中心極限定理（Athreyaら, 2016）を用いて、ASE の推定誤差を定量的評価し、$n^{-1/2}\log^{1/2}(n)$ 比例の縮小手順を導出する。
• 推定誤差の漸近正規性から導かれる最適な縮小率を用いて、MVECPの頂点をその重心に向かって縮小することでバイアスを低減する。

実験結果

リサーチクエスチョン

• RQ1 隣接スペクトル埋め込みに続いてMVECPフィッティングを行うことは、無向混合所属stochastic blockmodel（MMSBM）の一致推定量として有効か？
• RQ2 MMSBM を正式にランダムドット積图形（RDPG）に接続することで、既存のスペクトル理論を活用できるか？
• RQ3 このスペクトル的手順における推定コミュニティ構造の収束速度はいかほどか？
• RQ4 MVECP推定量における有限標本バイアスはどのように定量化され、是正されるか？
• RQ5 漸近正規性に基づく縮小手順は、有限標本における推定精度を向上させるか？

主な発見

• 提案されたスペクトル埋め込みとMVECPフィッティング手順は、正則性条件のもとでMMSBMに対して整合的であり、推定された潜在的位置が真のコミュニティ重心に収束する。
• RDPGスペクトル埋め込みにおける $2\to\infty$ ノルムの結果により、推定された潜在的位置と真の位置との最大偏差が $n \to \infty$ のとき消えることが保証される。
• ASE における中心極限定理により、埋め込み点の推定誤差は漸近的に正規分布に従い、共分散行列 $\Psi(x)$ を持つことが示され、バイアスの定量化が可能になる。
• MVECP推定量における有限標本バイアスは $n^{-1/2}\log^{1/2}(n)$ の速度で減少し、シミュレーション研究で確認された。
• 導出された速度 $n^{-1/2}\log^{1/2}(n)$ に従ってMVECPをその重心に向かって縮小することで、固定速度の縮小や縮小なしの手法と比較して推定精度が顕著に向上する。
• この手法は固有値分解を除きたった3行のコードで実装可能であり、MCMC や変分推論といった複雑な推論手法に比べて、スケーラブルで実用的な代替手段を提供する。