[論文レビュー] Consistent estimation of dynamic and multi-layer block models

Qiuyi Han, Kevin S. Xu+1 more|arXiv (Cornell University)|Oct 31, 2014

Bayesian Methods and Mixture Models参考文献 40被引用数 55

ひとこと要約

本稿は、ネットワーク層の数が増加する際のマルチグラフストークスティックブロックモデル（SBM）におけるスペクトラルクラスタリングおよび最尤推定（MLE）の一貫性を確立する。層数が増加する条件下で、MLEを計算可能にするための変分近似を導入し、両推定器が真のブロック構造を一貫して回復する理論的条件を証明する。本稿は、層数が増加するマルチグラフSBMに対して、初めての漸近的一致性結果を提供する。

ABSTRACT

Significant progress has been made recently on theoretical analysis of estimators for the stochastic block model (SBM). In this paper, we consider the multi-graph SBM, which serves as a foundation for many application settings including dynamic and multi-layer networks. We explore the asymptotic properties of two estimators for the multi-graph SBM, namely spectral clustering and the maximum-likelihood estimate (MLE), as the number of layers of the multi-graph increases. We derive sufficient conditions for consistency of both estimators and propose a variational approximation to the MLE that is computationally feasible for large networks. We verify the sufficient conditions via simulation and demonstrate that they are practical. In addition, we apply the model to two real data sets: a dynamic social network and a multi-layer social network with several types of relations.

研究の動機と目的

• 層数が増加する際のマルチグラフストークスティックブロックモデル（SBM）の推定器の理論的一致性を確立すること。
• スペクトラルクラスタリングおよび最尤推定（MLE）が真のブロック構造を一貫して回復する十分条件を導出すること。
• 大規模なマルチグラフネットワークにおけるMLEを計算可能に保つための、計算的に実行可能な変分近似を考案すること。
• シミュレーションを通じて理論的条件を検証し、動的かつマルチレイヤーの実社会ネットワークに手法を適用すること。

提案手法

• スペクトラルクラスタリングを用いて、マルチグラフSBMの特別な場合におけるノード所属を推定し、層数が増加する際の一貫性を証明する。
• 一般マルチグラフSBMにおけるMLEの一貫性のための十分条件を、真の割り当てと誤ったクラス割り当ての間の期待対数尤度の差に基づいて導出する。
• ノードの割り当てを独立した多項分布に分解し、期待最大化（EM）フレームワークを適用することで、MLEの変分近似を提案する。
• 反復的EMスタイルのアルゴリズムを採用する：Eステップでは、期待エッジ尤度に基づいてノードの割り当て確率を更新する。Mステップでは、ブロック確率パラメータおよびブロック間接続確率を更新する。
• 平均場近似を用いて結合尤度を分離し、ノードのクラス所属とブロック接続パラメータの両方について、計算可能な最適化を可能にする。
• 提案手法をシミュレーテッドデータおよび2つの実世界データセット（動的ソーシャルネットワークおよび複数の相互作用タイプを持つマルチレイヤー・ソーシャルネットワーク）に適用する。

実験結果

リサーチクエスチョン

• RQ1 スペクトラルクラスタリングは、層数が増加する際、どのような条件下でマルチグラフSBMに対して一貫性を示すか？
• RQ2 一般マルチグラフSBMにおいて、最尤推定器（MLE）の一貫性を保証する十分条件は何か？
• RQ3 大規模ネットワークにおいて、理論的一致性を保ちながらMLEを効率的に近似する方法は何か？
• RQ4 理論的一致性条件は、実世界のマルチグラフネットワーク設定において実用的に検証可能で効果的か？

主な発見

• スペクトラルクラスタリングは、ブロック構造が層をまたいで保存される特別なケースにおいて、層数が増加する際、マルチグラフSBMに対して一貫性を示す。
• MLEは、最小クラスサイズ、クラス間接続確率の差、および層固有のエッジ確率に依存する十分条件を満たす場合、一貫性を示す。
• MLEのための変分近似が提案され、大規模ネットワークにおいて計算的に実行可能であることが示され、実用的応用を可能にする。
• 理論的一致性条件はシミュレーションにより実証的に検証され、実用的関連性と頑健性を示している。
• モデルは、動的ソーシャルネットワークおよび多様な相互作用タイプを持つマルチレイヤー・ソーシャルネットワークの両方で、真のブロック構造を的確に回復した。
• 2クラスの特別なケースにおいて、誤分類ノードの境界ケースを確認することで、一貫性を達成するための最小ノード数を計算可能である。