[論文レビュー] An Infinite Latent Attribute Model for Network Data

Konstantina Palla, David A. Knowles+1 more|arXiv (Cornell University)|Jun 27, 2012

Data Management and Algorithms参考文献 19被引用数 58

ひとこと要約

この論文は、2段階の階層構造を持つ階層的無限潜在特徴モデルを提案し、ノードが潜在的特徴に割り当てられ、各特徴が互いに排他的な部分クラスタにさらに分割される仕組みにより、複雑な関係構造を捉える。リンク予測タスクにおいて、平坦なクラスタリングモデルよりも優れた性能を示し、単一層の階層モデルが現実のネットワークを単純化していることを示している。

ABSTRACT

Latent variable models for network data extract a summary of the relational structure underlying an observed network. The simplest possible models subdivide nodes of the network into clusters; the probability of a link between any two nodes then depends only on their cluster assignment. Currently available models can be classified by whether clusters are disjoint or are allowed to overlap. These models can explain a "flat" clustering structure. Hierarchical Bayesian models provide a natural approach to capture more complex dependencies. We propose a model in which objects are characterised by a latent feature vector. Each feature is itself partitioned into disjoint groups (subclusters), corresponding to a second layer of hierarchy. In experimental comparisons, the model achieves significantly improved predictive performance on social and biological link prediction tasks. The results indicate that models with a single layer hierarchy over-simplify real networks.

研究の動機と目的

• 既存の平坦なクラスタリングモデルが複雑なネットワーク構造を捉えることの限界を解決すること。
• 二層の潜在的特徴階層を用いて、ネットワークデータ内の重複するおよび階層的な依存関係をモデル化すること。
• ベイジアン非パラメトリックアプローチを用いて、特徴数および部分クラスタ数に対する非パrametric推論を可能にすること。
• ソーシャルおよび生物学的ネットワークのリンク予測タスクにおける予測性能を向上させること。
• 単一層の階層モデルが現実のネットワーク依存関係を単純化していることを実証すること。

提案手法

• 各ノードが潜在的特徴ベクトルに関連付けられる階層的ベイジアン非パラメトリックモデルを用いる。
• 各特徴が互いに排他的な部分クラスタに分割され、2段階目のクラスタリング構造が導入される。
• 無限個の特徴および部分クラスタを許容するため、中国 restaurant process (CRP) 事前分布を採用する。
• 各特徴内の部分クラスタの分布をモデル化するためにスティックバーキング過程を適用する。
• 特徴の割り当てと部分クラスタ所属を同時に推論するため、ギブスサンプリング推論アルゴリズムを用いる。
• リンク確率を共有する特徴および部分クラスタの関数としてモデル化し、柔軟な関係モデリングを実現する。

実験結果

リサーチクエスチョン

• RQ1 二層のクラスタリング構造を持つ階層的潜在的特徴モデルは、平坦なクラスタリングモデルよりもリンク予測を改善できるか？
• RQ2 特徴内に部分クラスタを含めることで、単一層モデルよりも洗練されたネットワーク依存関係を捉えることができるか？
• RQ3 モデルの非パラメトリック性は、事前に指定なしに真の特徴数および部分クラスタ数を適切に学習できるか？
• RQ4 既存の手法と比較して、現実のソーシャルおよび生物学的ネットワークにおいて、モデルはどの程度の性能を示すか？
• RQ5 単一層の階層モデルは、現実のネットワーク構造をどの程度単純化しているか？

主な発見

• 提案されたモデルは、既存のモデルと比較して、ソーシャルおよび生物学的ネットワークのリンク予測タスクにおいて顕著に優れた予測性能を達成した。
• 特徴内の部分クラスタを含む階層的構造は、平坦なクラスタリングモデルよりもより複雑な依存関係を捉えている。
• モデルの非パラメトリック性により、手動でのチューニングなしに適切な特徴数および部分クラスタ数を自動的に推論できる。
• 実験的結果から、単一層の階層モデルは現実のネットワーク構造を単純化していることが示され、より深い階層の必要性が裏付けられた。
• 中国レストランプロセスおよびスティックバーキング事前分布の使用により、無限の特徴および部分クラスタ空間における柔軟かつスケーラブルな推論が可能になった。
• モデルは、ソーシャルおよび生物学的ネットワークを含む多様なネットワークタイプにおいて、頑健性と一般化性能を示した。