[論文レビュー] Latent Multi-group Membership Graph Model

Myunghwan Kim, Jure Leskovec|arXiv (Cornell University)|May 21, 2012

Graph Theory and Algorithms参考文献 10被引用数 38

ひとこと要約

Latent Multi-group Membership Graph (LMMG) モデルは、各ノードを複数の潜在的グループに割り当てることで、ネットワークリンクとノード特徴量を統合的にモデル化する。グループへの所属確率が、特徴量の出現確率（ロジスティックモデルを用いて）およびリンク確率（グループ固有の親和性行列を用いて）を決定する。このモデルは、最先端の手法と比較して、リンク予測、特徴量予測、ノード分類の各タスクで優れた性能を発揮する。

ABSTRACT

We develop the Latent Multi-group Membership Graph (LMMG) model, a model of networks with rich node feature structure. In the LMMG model, each node belongs to multiple groups and each latent group models the occurrence of links as well as the node feature structure. The LMMG can be used to summarize the network structure, to predict links between the nodes, and to predict missing features of a node. We derive efficient inference and learning algorithms and evaluate the predictive performance of the LMMG on several social and document network datasets.

研究の動機と目的

• 複雑なネットワークにおけるネットワーク構造とノード特徴パターンを統合的に捉える統一的確率モデルの開発を目的とする。
• リンクや特徴量の欠落を、補完的データモダリティのみを用いて予測可能にする。例えば、リンクのない状態から特徴量のみでリンクを予測する。
• 潜在的なコミュニティ構造や相互作用を反映する解釈可能な意味のあるノードおよび特徴量のグループ化を提供する。
• リンクと特徴量を別々に扱うか、排他的なグループ所属を仮定する従来のモデルの制限を克服する。
• 実世界のネットワークにおけるリンク予測、特徴量予測、ノード分類タスクの予測性能を向上させる。

提案手法

• 各ノードは、独立したベルヌーイ確率変数を用いて複数の潜在的グループに所属させることで、非排他的かつ重複するグループ所属を可能にする。
• ノード特徴量は、ノードのグループ所属に依存する確率に基づくロジスティック回帰フレームワークでモデル化される。
• リンク形成は、ノードが特定のグループに所属しているかどうか（0,0）、（1,0）、（0,1）、（1,1）に基づいて、グループ固有のリンク親和性行列によって制御される。
• 生成プロセスでは、まずベータ事前分布からグループ所属をサンプリングし、その後、グループ所属と親和性行列に基づいて条件付きで特徴量とリンクを生成する。
• 大規模ネットワークに対応するため、推論とパラメータ学習には効率的な変分ベイズ推論と期待最大化アルゴリズムが用いられる。
• モデルは有向および無向ネットワークをサポートし、豊富なノード特徴量と複雑なリンク構造を持つ実世界データセットにもスケーラブルである。

実験結果

リサーチクエスチョン

• RQ1 統一的モデルが、ネットワーク構造とノード特徴量を統合的に学習することで、複数のタスクにおける予測性能を向上させられるか？
• RQ2 リンクが一切観測されていない状態でも、ノード特徴量のみを用いてリンク予測がどの程度達成可能か？
• RQ3 ネットワーク構造のみを用いて、欠落または隠れたノード特徴量を正確に予測できるか？
• RQ4 重複するグループ所属とグループ固有のリンク親和性行列は、多項分布トピックモデルと比較して、解釈性とモデルの柔軟性をどのように向上させるか？
• RQ5 LMMG は、リンク予測、特徴量予測、ノード分類タスクにおいて、既存の最先端モデルを上回る性能を発揮するか？

主な発見

• LMMG は、実世界のソーシャルネットワークやドキュメントネットワークにおいて、自然なベースラインおよび最先端のモデルと比較して、リンク予測、ノード特徴量予測、教師ありノード分類タスクで顕著に優れた性能を発揮する。
• モデルは、リンクが存在しない状態でもノード特徴量のみを用いて正確なリンク予測が可能である。例えば、プロフィール情報のみを用いて友人関係の推薦が可能であり、従来のリンク中心モデルの範囲を越える能力を示す。
• モデルは、ネットワーク構造のみを用いて欠落または隠れたノード特徴量を予測可能である。例えば、ユーザーの関心やウェブページのキーワードを、その接続関係から推定できる。
• グループ所属の分析により、解釈可能なコミュニティが明らかになった。例えば、インターングループは高いリンク密度（親和性行列 [0.67, 0.08; 0.08, 0.17]）を示し、一方、CS や家族といった一般特徴量は平坦な親和性行列を示し、構造的影響が弱いことが示された。
• 高校在籍（HS）のグループ所属がネットワーク構造に与える影響（ロジスティック回帰係数 8.7）は、大学在籍（2.3）よりも強いことが判明し、現実の社会的ダイナミクスを反映している。
• リンク親和性行列は、洗練された相互作用パターンを明らかにした。例えば、バスケットボールグループは内部リンクの親和性（0.38）が外部リンク（0.18）よりも高く、強い内集団結束を示している。