[論文レビュー] Adapting the Stochastic Block Model to Edge-Weighted Networks

Christopher Aicher, Abigail Z. Jacobs+1 more|arXiv (Cornell University)|May 24, 2013

Statistical Methods and Inference参考文献 15被引用数 53

ひとこと要約

本稿では、エッジ重みを指数型分布族でモデル化することで、古典的なストークスティック・ブロック・モデル（SBM）をエッジ重み付きネットワークに一般化した、重み付きストークスティック・ブロック・モデル（WSBM）を提案する。この手法は、閾値処理に基づくSBMの応用よりも、特に分散が高く、重み分布が重複する状況下でも、潜在的なブロック構造を保持する。

ABSTRACT

We generalize the stochastic block model to the important case in which edges are annotated with weights drawn from an exponential family distribution. This generalization introduces several technical difficulties for model estimation, which we solve using a Bayesian approach. We introduce a variational algorithm that efficiently approximates the model's posterior distribution for dense graphs. In specific numerical experiments on edge-weighted networks, this weighted stochastic block model outperforms the common approach of first applying a single threshold to all weights and then applying the classic stochastic block model, which can obscure latent block structure in networks. This model will enable the recovery of latent structure in a broader range of network data than was previously possible.

研究の動機と目的

• 連続的なエッジ重みの閾値処理により情報が損なわれるため、古典的なストークスティック・ブロック・モデル（SBM）が二値エッジを必要とするという限界を是正すること。
• エッジ重みを指数型分布族から抽出する、原理的で確率的フレームワークを構築し、潜在的なコミュニティ構造のより正確な回復を可能にすること。
• 密なグラフに適したベイジアン変分ベイズ推論アプローチを用いることで、重み付きネットワークのパラメータ推定における技術的課題を解決すること。
• 重み情報の完全な利用が、ブロック固有の重み分布が重複する、または分散が著しく異なる状況下でも、閾値処理戦略を上回る性能向上をもたらすことを示すこと。
• 実世界のネットワークにおいてエッジ重みが構造的・機能的意義を持つ場合に、スケーラブルで頑健なコミュニティ検出手法を提供すること。

提案手法

• エッジ重みを指数型分布族（例：正規分布、ポアソン分布）から抽出できるように、ストークスティック・ブロック・モデルを一般化し、閾値処理を伴わずに連続的エッジ重みを直接モデル化可能にする。
• 各ブロックペアが指数型分布族からの異なるパラメータ・ベクトル θr を持つ重み付きストークスティック・ブロック・モデル（WSBM）を定義し、ブロック間での分布的差異を捉える。
• 潜在的ブロック割り当て z およびエッジバンドルのパラメータ θ における事後分布の近似として、変分ベイズアルゴリズムを用い、密なグラフ上での効率的推論を実現する。
• 潜在変数とパラメータを分離するための平均場近似を採用し、座標昇下法による反復的最適化が可能になる。
• 近似の品質を測る指標として、Kullback-Leibler（KL）ダイバージェンス（VI）を用い、変分事後分布が真の事後分布に近づくように保証する。
• 過学習を回避するため、モデル選択にベイズ因子を用い、最適なブロック数を特定する。

実験結果

リサーチクエスチョン

• RQ1 閾値処理なしに、エッジ重み付きネットワークにおける潜在的ブロック構造を、一般化されたストークスティック・ブロック・モデルが的確に回復できるか？
• RQ2 エッジ重み分布が重複する、または著しく変動する状況下で、WSBMの性能は閾値処理を施したSBMの応用と比べてどうなるか？
• RQ3 WSBMが重みの大きさ情報を完全に活用することで、重みの大きさを無視する手法よりも、より正確で頑健なコミュニティ検出が可能になるか？
• RQ4 真のブロック数が不明である、または推定されたブロック数が真の数を上回るような状況において、WSBMはどのようにモデル選択を処理するか？
• RQ5 エッジ重みが機能的または関係的意義を持つネットワークにおいて、WSBMは構造的情報をどの程度保持するか？

主な発見

• WSBMは、エッジ重みの分散が高く、分布が重複する状況を除き、すべてのテスト条件下で、閾値処理を施したSBMの応用を顕著に上回る。
• エッジ重み分布が明確に分離されている場合、WSBMは k = 5 = k* で真のブロック構造を回復するが、閾値処理を施したSBMは類似した閾値通過確率のためブロックを区別できない。
• k > k* の状況下でも、WSBMは過学習を回避し、劣化を緩やかに保つ（fail gracefully）という優れた性能を維持するが、閾値処理を施したSBMは過学習を避けられず、性能が著しく低下する。
• k-means や階層的クラスタリングは、分散が高いため、ブロック内構造に依存し、ノイズに敏感であるため、性能が著しく劣る。一方、WSBMは重み情報の完全な利用により、優れた性能を発揮する。
• 変分ベイズアルゴリズムにより、密なグラフ上での事後分布の効率的近似が可能であり、ベイズ因子は正確なブロック数の選択を信頼性高く実現しており、モデルの複雑さに対する頑健性を裏付けている。