[論文レビュー] Wmixnet: Software for Clustering the Nodes of Binary and Valued Graphs using the Stochastic Block Model

Jean-Benoist Léger|arXiv (Cornell University)|Feb 14, 2014

Complex Network Analysis Techniques参考文献 4被引用数 8

ひとこと要約

本稿では、二値ネットワークおよび値が付与されたネットワークのノードをクラスタリングするための変分EMアルゴリズムを実装したC++ベースの並列処理ソフトウェア、wmixnetを提示する。このソフトウェアは、ベルヌーイ、ポアソン、ガウスの各エッジ分布を、共変数あり・なしの両方でサポートしており、10,000ノードまでの大きなネットワークの効率的クラスタリングと、ICL基準を用いた最適なグループ数の選択を可能にし、従来の手法に比べてモデルの解釈可能性とスケーラビリティが著しく向上する。

ABSTRACT

Clustering the nodes of a graph allows the analysis of the topology of a network. The stochastic block model is a clustering method based on a probabilistic model. Initially developed for binary networks it has recently been extended to valued networks possibly with covariates on the edges. We present an implementation of a variational EM algorithm. It is written using C++, parallelized, available under a GNU General Public License (version 3), and can select the optimal number of clusters using the ICL criteria. It allows us to analyze networks with ten thousand nodes in a reasonable amount of time.

研究の動機と目的

• モデルベースクラスタリングを用いて、複雑なネットワークのノードをスケーラブルで効率的かつ拡張可能なソフトウェアツールとして開発すること。
• 確率的分布（ベルヌーイ、ポアソン、ガウス）を用いて、共変数を含む値が付与されたネットワークへのステochastic block modelの拡張を実現すること。
• 並列処理を可能にし、ICL基準を用いて最適なクラスタ数を自動的に選択できる変分EMアルゴリズムを実装すること。
• 10,000ノードに達する大規模ネットワークを合理的な時間枠で解析できるようにすること。

提案手法

• ステochastic block modelにおけるパラメータ推定とノードのグループ所属予測に、変分期待最大化（EM）アルゴリズムを用いる。
• 3つのエッジ分布ファミリーをサポートする：ベルヌーイ（二値ネットワーク）、ポアソン（非負の整数重み）、ガウス（実数値重み）。
• グループペア間で均一および非均一な効果を持つエッジ上の共変数を統合する。
• 最適なクラスタ数の決定のため、統合分類尤度（ICL）基準を用いたモデル選択を実装する。
• C++を用いた並列処理により、大規模ネットワークの効率的処理を実現し、収束の安定性を高めるために再初期化モードを設定可能にしている。
• テキスト、R、MATLAB、GNU Octaveのフォーマットを含む、柔軟な入出力形式を提供し、広範な利用可能性を実現している。

実験結果

リサーチクエスチョン

• RQ1 エッジに共変数を含む値が付与されたネットワークに対して、ステochastic block modelをどのように効果的に拡張できるか？
• RQ2 このような拡張モデルにおけるパラメータ推定の計算複雑度は何か？ そして、大規模ネットワークにおいてはどのようにしてこれを低減できるか？
• RQ3 ICL基準は、混合タイプおよび値が付与されたネットワークにおいて、最適なクラスタ数を信頼性を持って選択できるか？
• RQ4 生態的および社会的ネットワーク応用において、共変数はクラスタリングの性能とモデルの適合度にどのように影響を与えるか？
• RQ5 共変数を含めることで、共変数なしのモデルと比較して、モデルの適合度がどの程度向上するか？

主な発見

• wmixnetソフトウェアは、10,000ノードに達するネットワークを合理的な時間でクラスタリングでき、高いスケーラビリティを示した。
• 樹木種のネットワークでは、分類学的共変数を用いた場合、ICL基準が4つのグループを示し、地理的共変数のみの場合よりも顕著な改善が得られた。
• 菌類種のネットワークでは、分類学的共変数の有無に関わらず、ICL基準は15グループで安定しており、モデルの改善が顕著でなかった。
• 計算複雑度は、t ∝ n^2.46 * g^2.1 * 1.03^p と概ね比例する（モデル固有の定数を含む）ことが判明し、ガウスモデルはベルヌーイモデルよりも著しく計算コストが高いことが示された。
• ソフトウェアのモジュラー設計により、モデル固有の関数を実装するだけで、新しい確率モデルへの容易な拡張が可能である。
• 包括的スムージングモードは、特に小さなまたは複雑なネットワークにおいて収束の信頼性を向上させたが、計算時間の増加を伴った。