[論文レビュー] Modeling sequences and temporal networks with dynamic community structures

Tiago P. Peixoto, Martin Rosvall|arXiv (Cornell University)|Sep 15, 2015

Opinion Dynamics and Social Influence被引用数 6

ひとこと要約

本稿では、任意の次数のマルコフ連鎖とコミュニティ構造を用いた非パラメトリックベイズ枠組みを提案し、時間的系列および動的ネットワークをモデリングする。この手法により、任意の時間スケールを仮定せず、データ駆動で最適な記憶次数とコミュニティ分割を同定できる。過学習を回避するため、データを説明できる最も単純なモデルを選択する。実世界のテキスト、メール、移動行動、社会的接触データなど多様なデータセットにおいて、意味のある動的コミュニティ構造を的確に特定した。

ABSTRACT

In evolving complex systems such as air traffic and social organizations, collective effects emerge from their many components' dynamic interactions. While the dynamic interactions can be represented by temporal networks with nodes and links that change over time, they remain highly complex. It is therefore often necessary to use methods that extract the temporal networks' large-scale dynamic community structure. However, such methods are subject to overfitting or suffer from effects of arbitrary, a priori imposed timescales, which should instead be extracted from data. Here we simultaneously address both problems and develop a principled data-driven method that determines relevant timescales and identifies patterns of dynamics that take place on networks as well as shape the networks themselves. We base our method on an arbitrary-order Markov chain model with community structure, and develop a nonparametric Bayesian inference framework that identifies the simplest such model that can explain temporal interaction data.

研究の動機と目的

• 動的ネットワークや系列のモデリングにおいて、任意の時間スケールを強制する既存手法の限界や、過学習の問題を解決すること。
• ネットワーク上のダイナミクスとネットワーク構造そのものの進化を同時にモデリングする統一フレームワークの開発。
• データに最も適合する、コミュニティ構造を有する最も単純なマルコフ連鎖を同定する、根拠に基づいたモデル選択の実現。
• ノイズによる誤った構造を回避し、データから直接関連する時間スケールと動的コミュニティパターンを抽出すること。
• 過去の観測から未来のネットワークダイナミクスを、単純なモデルを用いて予測することの支援。

提案手法

• イベントの時間的系列を表現するため、任意の次数のマルコフ連鎖とコミュニティ構造を組み合わせた生成モデルを構築する。
• 非パラメトリックベイズ推論フレームワーク（特にディリクレ過程混合）を用い、コミュニティ数とマルコフ次数を同時に推定する。
• スティッチドブロックモデルを用いて、状態またはエッジをコミュニティにグループ化し、データからコミュニティ構造を学習可能にする。
• コミュニティ数と記憶次数に対する非パラメトリック事前分布を導入することで、過学習を回避し、自動的なモデル選択を可能にする。
• 変分ベイズ近似を用いて、モデルパラメータとハイパーパrameterの事後分布を効率的に計算する。
• ノード数に対して対数線形の計算複雑性を達成し、大規模ネットワークへのスケーラビリティを実現する。

実験結果

リサーチクエスチョン

• RQ1 与えられた時間的系列に対して最適な記憶次数は何か？ そして、事前の仮定なしにデータから直接同定可能か？
• RQ2 任意の時間窓や集約層を強制せず、時間的ネットワークにおける動的コミュニティ構造をどのように同定できるか？
• RQ3 高次元データにおける真の動的パターンとランダムな揺らぎを、モデルが区別できるか？
• RQ4 推定されたモデルは、過去の観測に基づいて、どの程度未来のネットワークダイナミクスを予測できるか？
• RQ5 コミュニティ構造の組み込みが、ネットワーク上での複雑な時間的プロセスのモデリングをどの程度向上させるか？

主な発見

• 合成データにおいて、高次元設定下でも過学習を回避し、正しいマルコフ次数とコミュニティ数を的確に同定した。
• ベートーベンの交響曲第5番のデータセットでは、マルコフ次数3およびコミュニティ数4を推定し、調性とリズムのパターンを効果的に捉えた。
• Enronメールデータセットでは、マルコフ次数2およびコミュニティ数5を同定し、従業員グループ間の異なる通信パターンを明らかにした。
• RockYouパスワードリストでは、マルコフ次数1およびコミュニティ数3を推定し、一般的なパスワード構造パターンを同定した。
• すべての実世界データセットにおいて、静的コミュニティ検出法や固定記憶次数モデルよりも予測精度が優れていた。
• ノード数に対して対数線形の複雑性を示し、APSの引用データやprosper.comローンデータセットのような大規模ネットワークでも効率的な推論が可能であることを実証した。