[論文レビュー] Completely random measures for modelling block-structured networks

Tue Herlau, Mikkel N. Schmidt+1 more|arXiv (Cornell University)|Jul 10, 2015

Complex Network Analysis Techniques参考文献 25被引用数 6

ひとこと要約

本稿では、Kallenbergの交換可能性の概念に基づく完全に無作為な測度（CRMs）を用いた、ブロック構造を持つ新規なネットワークモデルを提案する。このモデルは、パワー則的次数分布を維持しつつも、ブロック構造の推論を可能にする。CRMsをブロック固有の強度測度と組み合わせることで、効率的なサンプリングと尤度計算が可能となり、実世界のネットワークにおいて、リンク予測およびコミュニティ検出の面で既存モデルを上回る性能を発揮する。

ABSTRACT

Many statistical methods for network data parameterize the edge-probability by attributing latent traits to the vertices such as block structure and assume exchangeability in the sense of the Aldous-Hoover representation theorem. Empirical studies of networks indicate that many real-world networks have a power-law distribution of the vertices which in turn implies the number of edges scale slower than quadratically in the number of vertices. These assumptions are fundamentally irreconcilable as the Aldous-Hoover theorem implies quadratic scaling of the number of edges. Recently Caron and Fox (2014) proposed the use of a different notion of exchangeability due to Kallenberg (2009) and obtained a network model which admits power-law behaviour while retaining desirable statistical properties, however this model does not capture latent vertex traits such as block-structure. In this work we re-introduce the use of block-structure for network models obeying Kallenberg's notion of exchangeability and thereby obtain a model which admits the inference of block-structure and edge inhomogeneity. We derive a simple expression for the likelihood and an efficient sampling method. The obtained model is not significantly more difficult to implement than existing approaches to block-modelling and performs well on real network datasets.

研究の動機と目的

• 従来のAldous-Hooverの交換可能性に基づくモデルでは不適合であるが、ブロック構造ネットワークモデリングとパワー則的次数分布の両立を図ること。
• CaronとFox（2014）のCRMベースのネットワークモデルを拡張し、潜在的なブロック構造とエッジの非定常性を組み込むこと。
• 新規モデルのための取り扱いやすい尤度と、効率的なMCMCサンプリング手法の開発。
• 既存モデルと比較して、実世界のネットワークにおけるリンク予測およびコミュニティ検出の性能向上を実証すること。

提案手法

• Aldous-Hooverの交換可能性による2次的エッジスケーリングを回避するため、完全に無作為な測度（CRMs）を用いてエッジ確率をモデル化する。Kallenbergの交換可能性の概念を適用する。
• 各ブロックに個別のCRMを割り当て、強度測度を $ \sum_{i\geq 1} w_{\ell i} \delta_{\theta_{\ell i}} $ と定義する。ここで $ w_{\ell i} $ は社会性を制御し、$ \theta_{\ell i} $ はブロック固有の相互作用を制御する。
• エッジ確率を $ \xi_{\ell m} = \eta_{\ell m} \cdot \mathbb{E}[\text{ブロック } \ell \text{ と } m \text{ からのスティックの交差}] $ としてモデル化する。ここで $ \eta_{\ell m} \geq 0 $ は相互作用強度を調整する。
• ネットワークシグネチャの組み合わせ的構造を活用し、置換不変性をマルチノミアル係数による補正で補正することで、閉形式の尤度表現を導出する。
• 共役事前分布と条件付き後確率を用いて、ブロック割り当て、CRM重み、相互作用パラメータを効率的に更新するギブスサンプラーを採用する。
• Zolotarevの積分表現を用いて、総質量 $ T = \sum_i w_i $ の分布を数値的に近似し、モデルの周辺的挙動を検証する。

実験結果

リサーチクエスチョン

• RQ1 Kallenbergの交換可能性の概念に基づくネットワークモデルは、同時にブロック構造とパワー則的次数分布を捉えることができるか？
• RQ2 CRMフレームワークの不変性特性を損なわずに、CRMベースのネットワークモデルにブロック構造を組み込む方法は何か？
• RQ3 このようなモデルの尤度の形は何か？ また、効率的に計算可能か？
• RQ4 DCSBM や pIRM と比較して、提案モデルのリンク予測およびコミュニティ検出における性能はどの程度か？

主な発見

• 提案されたCRMベースのスティッチブロックモデルは、ブロック構造とパワー則的次数分布の両方を効果的に捉えることができ、従来の交換可能性モデルにおける根本的な不適合を解消した。
• 置換不変性を組み合わせ的補正要因（マルチノミアル係数を含む）を用いて補正した閉形式の尤度表現を達成した。
• NIPS, Caltech, 酵母など11個の実世界ネットワークを用いた実証的検証により、リンク予測精度およびコミュニティ検出においてDCSBMおよびpIRMを上回る性能を示した。
• シミュレートされたネットワークからの総質量 $ T $ の推定密度が、Zolotarevの積分表現から導かれた理論的密度と非常に近接しており、モデルの妥当性を裏付けた。
• スパarsなネットワークに対しても良好な性能を発揮し、社会的ネットワーク、共同著者ネットワーク、脳ネットワークなど多様なネットワークタイプにわたり、安定性を維持した。
• 実装の複雑さは標準的なブロックモデルと同等であり、実世界の応用に実用的かつ容易に適用可能である。