[論文レビュー] Component models for large networks

Janne Sinkkonen, Janne Aukia+1 more|ArXiv.org|Mar 11, 2008

Complex Network Analysis Techniques参考文献 28被引用数 22

ひとこと要約

この論文は、各ネットワークリンクを潜在的コンポonentから生成するとみなす非パラメトリックベイズモデル、コミュニティ用のインタラクションコンポonentモデル（ICMc）を導入する。このモデルにより、大規模かつスパースなネットワークにおけるスケーラブルなコミュニティ検出が可能になる。ディリクレ過程の事前分布と畳み込みギブスサンプリングを用いることで、最大670,000ノードおよび1.89百万リンクを有するネットワークにおいて、不確実性の扱いやスケーラビリティの面で従来手法を凌駆するコミュニティ構造の同定が実現された。

ABSTRACT

Being among the easiest ways to find meaningful structure from discrete data, Latent Dirichlet Allocation (LDA) and related component models have been applied widely. They are simple, computationally fast and scalable, interpretable, and admit nonparametric priors. In the currently popular field of network modeling, relatively little work has taken uncertainty of data seriously in the Bayesian sense, and component models have been introduced to the field only recently, by treating each node as a bag of out-going links. We introduce an alternative, interaction component model for communities (ICMc), where the whole network is a bag of links, stemming from different components. The former finds both disassortative and assortative structure, while the alternative assumes assortativity and finds community-like structures like the earlier methods motivated by physics. With Dirichlet Process priors and an efficient implementation the models are highly scalable, as demonstrated with a social network from the Last.fm web site, with 670,000 nodes and 1.89 million links.

研究の動機と目的

• 大規模ネットワークにおける不確実性を考慮したスケーラブルなコミュニティ検出手法の不足に対処すること。
• コミュニティ数を事前に指定せずにコミュニティ構造を同定できる非パラメトリックベイズモデルの開発。
• ノードベースのコンポonentモデルと比較して、スケーラビリティと解釈可能性を向上させるために、リンクを直接潜在的コンポonentから生成されるものとしてモデル化すること。
• ディリクレ過程の事前分布を用いた畳み込みギブスサンプリングにより、大規模ネットワークにおける効率的な推論を可能にすること。

提案手法

• ICMcは、ネットワーク全体をリンクの集合としてモデル化し、各リンクがコミュニティを表す潜在的コンポonentに割り当てられる。
• 各コンポonentはノード固有のコンポonent割合に基づいてリンクを生成し、コンポonentの割り当ては非パラメトリック推論を可能にするためにディリクレ過程の事前分布から抽出される。
• モデルは、十分統計量に基づいて各コンポonentへのリンクの割り当ての事後確率を計算することで、コンポonentの割り当てを推定する畳み込みギブスサンプリングを用いる。
• サンプリング式には、コンポonent固有のリンクカウントとディリクレ過程の集中パラメータが組み込まれており、自動的にモデルの複雑さを調整可能である。
• 結合確率を要因分解することで、効率的なリンク単位の条件付き確率計算が可能となり、反復的なギブス更新が実現される。
• 本手法はスパースネットワークをサポートし、10^6ノードにまでスケーリング可能であることが、Last.fmのソーシャルネットワークを用いて実証された。

実験結果

リサーチクエスチョン

• RQ1 リンクを分析の基本単位とするコンポonentモデルが、ノードベースのモデルと比較してコミュニティ検出におけるスケーラビリティと精度で優れているか。
• RQ2 非パラメトリックベイズ事前分布（例：ディリクレ過程）を関係データに効果的に適用することで、コミュニティ数を事前に指定せずにコミュニティ構造を同定できるか。
• RQ3 大規模かつスパースなネットワーク（数百万ノードおよびエッジを有する）におけるリンクベースのコンポonentモデルの計算効率はいかほどか。
• RQ4 欠落または誤ったリンクを含むネットワークデータにおける不確実性を、決定的モデュラリティベースの手法と比較して、本モデルはどのように扱っているか。

主な発見

• ICMcは、670,000ノードおよび1.89百万リンクを有する大規模なLast.fmソーシャルネットワークにおいて、高いスケーラビリティを示しながらコミュニティ構造を効果的に検出できた。
• ディリクレ過程の事前分布のおかげで、コミュニティ数を事前に指定する必要がなく、効果的なコミュニティ検出が可能となった。
• 畳み込みギブスサンプリングにより、十分統計量から導かれる条件付き確率を用いて、1回の更新で1つのリンクのコンポonent割り当てを逐次更新することで、効率的な推論が実現された。
• 生成プロセスがリンク中心であるため、SSN-LDAのようなノードベースのコンポonentモデルよりも、アソートァティブなコミュニティ構造をよりよく捉えられていた。
• ディリクレ過程の事前分布の使用により、データの多様性に応じて自動的にコンポonent数を調整でき、過学習を回避することができた。