[論文レビュー] The Nonparametric Metadata Dependent Relational Model

Dae I. Kim, Michael C. Hughes+1 more|arXiv (Cornell University)|Jun 27, 2012

Bayesian Methods and Mixture ModelsComputer Science参考文献 24被引用数 17

ひとこと要約

Nonparametric Metadata Dependent Relational (NMDR) モデルは、学習された回帰モデルを介して任意のノードメタデータによって駆動される、無限個の潜在コミュニティにおけるノードの混合所属を可能にするベイジアン非パラメトリックスティッキングブレークイングプロセスに基づくスチュアティスティックブロックモデルである。後向きMCMCサンプリングを無限のスティッキングブレークイングプロセスに適用することで、実世界の社会的および生態的ネットワークにおける意味のあるコミュニティの同定とリンク予測の向上が実現される。

ABSTRACT

We introduce the nonparametric metadata dependent relational (NMDR) model, a Bayesian nonparametric stochastic block model for network data. The NMDR allows the entities associated with each node to have mixed membership in an unbounded collection of latent communities. Learned regression models allow these memberships to depend on, and be predicted from, arbitrary node metadata. We develop efficient MCMC algorithms for learning NMDR models from partially observed node relationships. Retrospective MCMC methods allow our sampler to work directly with the infinite stick-breaking representation of the NMDR, avoiding the need for finite truncations. Our results demonstrate recovery of useful latent communities from real-world social and ecological networks, and the usefulness of metadata in link prediction tasks.

研究の動機と目的

• 無限個の潜在コミュニティにおけるノードの混合所属を捉える柔軟な関係モデルの開発。
• 任意のノードメタデータをコミュニティ所属の予測子として組み込み、解釈可能性と予測性能を向上させる。
• 有限の切断を伴わない無限のコミュニティ構造を持つモデルにおける効率的な推論を可能にする。
• メタデータ依存のコミュニティ構造を活用することで、ネットワークデータにおけるリンク予測の正確性を向上させる。

提案手法

• コミュニティ割り当てに非パラメトリックなディリクレ過程事前分布を用いることで、無限個の潜在コミュニティを許容する。
• スティッキングブレークイングプロセスを用いて無限混合のコミュニティを表現し、事前にコミュニティ数を指定する必要を回避する。
• ノードメタデータをコミュニティ所属確率にマップする回帰モデルを導入し、メタデータ依存のコミュニティ割り当てを可能にする。
• 後向きMCMCサンプリングを適用して、有限の切断を伴わない無限のスティッキングブレークイング表現を直接更新することで、切断に起因するバイアスを回避する。
• 条件付き共役性とギブスサンプリングを活用し、コミュニティ所属およびモデルパラメータの効率的更新を実現する。
• 観測されたエッジの尤度をコミュニティ所属に基づいてモデル化することで、部分的に観測されたネットワークデータからの推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックモデルは、ネットワークデータから無限個の潜在コミュニティにおける混合所属を効果的に学習できるか？
• RQ2 任意のノードメタデータは、関係ネットワークにおけるコミュニティ所属をどのように情報提供し、予測に活用できるか？
• RQ3 後向きMCMCサンプリングは、有限の切断を伴わない無限関係モデルにおける効率的推論を可能にするか？
• RQ4 メタデータを組み込むことで、実世界のネットワークにおけるリンク予測性能はどの程度向上するか？
• RQ5 このモデルは、社会的および生態的ネットワークにおいて意味のある解釈可能なコミュニティ構造を回復できるか？

主な発見

• NMDRモデルは、実世界の社会的および生態的ネットワークにおいて、解釈可能で有用な潜在コミュニティ構造を成功裏に回復した。
• ノードメタデータを組み込むことで、メタデータフリーのモデルと比較してリンク予測の正確性が顕著に向上した。
• 後向きMCMCサンプリングにより、切断を伴わない無限のスティッキングブレークイング表現における効率的かつ正確な推論が実現された。
• モデルは部分的に観測されたネットワークデータに対しても頑健な性能を示し、高い予測正確性を維持した。
• 学習された回帰モデルは、ノード属性とコミュニティ所属との間の意味のある関係を効果的に明らかにした。