Skip to main content
QUICK REVIEW

[論文レビュー] Leveraging Node Attributes for Incomplete Relational Data

He Zhao, Lan Du|arXiv (Cornell University)|Jun 14, 2017
Complex Network Analysis Techniques参考文献 27被引用数 19
ひとこと要約

本稿では、スパースで不完全な関係的ネットワークにおけるリンク予測およびコミュニティ検出を向上させるために、ノード属性を完全にベイジアンなポアソン因子分解法として活用するノード属性関係的モデル(NARM)を提案する。潜在的要因の重みに共役なガンマ事前分布を用いることで、効率的なギブスサンプリングが可能となり、観測されたリンク数に線形にスケーリングされ、特にデータが限られた状況でも最先端の性能を達成する。

ABSTRACT

Relational data are usually highly incomplete in practice, which inspires us to leverage side information to improve the performance of community detection and link prediction. This paper presents a Bayesian probabilistic approach that incorporates various kinds of node attributes encoded in binary form in relational models with Poisson likelihood. Our method works flexibly with both directed and undirected relational networks. The inference can be done by efficient Gibbs sampling which leverages sparsity of both networks and node attributes. Extensive experiments show that our models achieve the state-of-the-art link prediction results, especially with highly incomplete relational data.

研究の動機と目的

  • 観測されたリンクがスパースな、極めて不完全な関係的ネットワークにおけるリンク予測およびコミュニティ検出の課題に対処すること。
  • ユーザーの属性や論文の分類など、多様なノード属性を確率的関係的モデルに統合し、関係データが限られた状況での性能向上を図ること。
  • 共役性を維持し、ネットワークおよび属性の両方のスパarsityを活用して効率的な推論を可能にする、スケーラブルな完全ベイジアンフレームワークの開発。
  • 方向付きおよび非方向付きネットワークの両方を扱えるように、平坦または階層的なノード属性を統合したポアソン因子分解モデルの拡張。
  • リンク確率への直接回帰ではなく、潜在的要因の重みに対する事前知識として属性を用いることで、関係データと補助情報のバランスを原理的かつ整合的にとること。

提案手法

  • 非方向付きネットワーク用にSym-NARM、方向付きネットワーク用にAsym-NARMを提案し、両者ともポアソン-ガンマ共役事前分布に基づき、無限エッジパーティションモデル(EPM)およびBeta-Gamma-Gammaポアソン因子分解(BGGPF)を拡張する。
  • ノード属性を二値特徴としてモデル化し、各属性固有の重み $ h_{l,k} $ の積を用いて、ガンマ分布の形状母数 $ g_{i,k} $ のハイパーパラメータを構築する。
  • 補助情報は階層的事前分布により統合する:$ g_{i,k} = b_k \prod_{l=1}^L h_{l,k}^{f_{i,l}} $、ここで $ f_{i,l} $ はノード $ i $ の二値属性、$ h_{l,k} $ は属性 $ l $ が要因 $ k $ に与える影響を制御する。
  • 非ゼロ要素に限定して動作する閉形式のギブスサンプリングにより効率的な推論を実現し、スパarsityを活かしてリンク数に線形にスケーリングされる。
  • ガンマ関数の上昇階乗を表す補助変数 $ t_{i,k} $ を用い、中国レストランプロセスを介して $ g_{i,k} $ の取り扱い可能なサンプリングを可能にする。
  • 階層的属性への拡張のため、全般的なハイパーパrameter $ \mu_0 $ を属性レベルのパラメータ $ \delta_{m,k}^{f'_{l,m}} $ の積に置き換え、多段階属性統合を可能にする。

実験結果

リサーチクエスチョン

  • RQ1従来のモデルが失敗するような、極めて不完全な関係的ネットワークにおいて、ノード属性がリンク予測性能を顕著に向上させることができるか?
  • RQ2共役性を保ちつつ、スケーラブルな推論を可能にする形で、補助情報をベイジアンポアソン因子分解モデルに統合する方法は何か?
  • RQ3異なる属性が潜在的コミュニティ構造にどの程度寄与しているか、またモデルが属性固有の影響重みを自動で学習できるか?
  • RQ4提案手法は、特にデータが限られた状況やコールドスタート状況において、既存の最先端手法を上回る性能を示すか?
  • RQ5本手法は、平坦および階層的ノード属性を有する方向付きおよび非方向付きネットワークを、統一的かつ原理的なフレームワークで処理できるか?

主な発見

  • NARMは、複数のベンチマークデータセットで、特に不完全度が高い状況(関係データがスパース)において、最先端のリンク予測性能を達成する。
  • ノード属性の統合により、リンク予測のAUCおよびAUPRが顕著に向上し、特にリンクが観測されていないノード(コールドスタート状況)で顕著な改善が得られる。
  • モデルは観測されたリンク数および属性のスパarsityに線形にスケーリングされ、大規模なスパースネットワークにおける効率的推論を可能にする。
  • 属性要因重み $ h_{l,k} $ は、関係的つながりを予測する上で最も予測力のある属性を効果的に学習しており、高い重みは潜在的要因に与える影響が強いことを示す。
  • 共役事前分布と補助変数の拡張により、閉形式のギブスサンプリングが可能となり、複雑なMCMCスキームを回避する精度と効率の両立が達成される。
  • 属性の階層構造(特に特許ネットワークにおけるIPCコードなど)に対しても、事前分布構造を多段階に拡張することで、良好な一般化性能を示す。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。