[論文レビュー] Deep Representation Learning for Social Network Analysis

Qiaoyu Tan, Ninghao Liu+1 more|arXiv (Cornell University)|Apr 18, 2019

Advanced Graph Neural Networks参考文献 72被引用数 13

ひとこと要約

本調査では、ニューラルネットワークを用いたノードおよびサブグラフ埋め込みを焦点として、ソーシャルネットワーク解析のためのディープ表現学習技術について包括的なレビューを提供する。手法は埋め込みルックアップ、オートエンコーダ、グラフ畳み込みに基づくアプローチに分類され、応用分野、限界、および動的・階層的・非均質的ネットワークを含む未解決の研究課題についても議論する。

ABSTRACT

Social network analysis is an important problem in data mining. A fundamental step for analyzing social networks is to encode network data into low-dimensional representations, i.e., network embeddings, so that the network topology structure and other attribute information can be effectively preserved. Network representation leaning facilitates further applications such as classification, link prediction, anomaly detection and clustering. In addition, techniques based on deep neural networks have attracted great interests over the past a few years. In this survey, we conduct a comprehensive review of current literature in network representation learning utilizing neural network models. First, we introduce the basic models for learning node representations in homogeneous networks. Meanwhile, we will also introduce some extensions of the base models in tackling more complex scenarios, such as analyzing attributed networks, heterogeneous networks and dynamic networks. Then, we introduce the techniques for embedding subgraphs. After that, we present the applications of network representation learning. At the end, we discuss some promising research directions for future work.

研究の動機と目的

• ソーシャルネットワーク内のノードおよびサブグラフの低次元表現を学習するためのディープニューラルネットワークベースの手法について、体系的なレビューを提供すること。
• スケーラビリティ、解釈可能性、複雑なネットワーク構造の取り扱いといった、既存のネットワーク表現学習手法における主な課題を特定すること。
• 現実の動的変化や構造的複雑性を捉えることができない静的・均質的ネットワークモデルの限界を検討すること。
• より現実的で表現力のあるモデリングを実現するための、動的・階層的・非均質的ネットワーク埋め込みといった、新たな研究分野を強調すること。

提案手法

• ネットワーク表現学習手法を3つの主要なタイプに分類する：埋め込みルックアップベース、オートエンコーダベース、グラフ畳み込みネットワーク（GCN）ベースのモデル。
• 自然言語処理にインspiredされたスキップグラムとネガティブサンプリングを用いた、均質的ネットワークにおけるノード埋め込みの学習技術をレビューする。
• ノード特徴を表現学習プロセスに統合することで、属性付きネットワークへの拡張を紹介する。
• 異なるノード型およびエッジ型間の意味的関係をモデル化するためのメタパスを用いた、非均質的ネットワークのための手法を議論する。
• 時間の経過に伴い変化するノード集合、エッジ、属性に適応する動的ネットワーク埋め込みのアプローチをレビューする。
• ノードレベルの表現に基づいて構築されるサブグラフ埋め込み技術を提示し、ネットワークサブグラフ内の構造的パターンを捉える。

実験結果

リサーチクエスチョン

• RQ1 ディープニューラルネットワークをどのようにして、ソーシャルネットワーク内のノードに対して低次元で意味のある表現を効果的に学習することができるか？
• RQ2 既存の静的ネットワーク埋め込みモデルが、動的・階層的・非均質的ネットワーク構造を捉える際に抱える主な制限は何であるか？
• RQ3 ノード属性、エッジタイプ、時間的変化をどのようにしてディープ表現学習フレームワークに統合できるか？
• RQ4 スケーラビリティ、解釈可能性、一般化性能の向上に向けた、最も有望な研究方向性は何か？

主な発見

• ニューラルネットワークに基づくディープ表現学習手法は、ネットワークトポロジーと属性情報の両方を捉える点で、従来の手作業による特徴工学の手法を著しく上回っている。
• グラフ畳み込みネットワーク（GCN）とオートエンコーダベースのモデルは、局所的およびグローバルな構造的パターンを保持することで、ノード分類、リンク予測、クラスタリングのタスクで最先端の性能を達成している。
• 動的ネットワーク向けの既存手法は、しばしば固定されたノード集合と限定的な時間的モデリングを仮定しており、現実の進化するネットワークを適切に扱うには不足している。
• 非均質的ネットワーク埋め込みはまだ十分に発展していないが、メタパスベースのアプローチは有望であるものの、多様な現実世界のシステムにおける包括的評価が不足している。
• 数十億のノードとエッジを含む大規模ネットワークに適用する際、スケーラビリティは依然として主要な課題のままである。
• 学習された埋め込みの解釈可能性は依然として限定的であり、潜在次元が意味的意味を持たないため、モデルの信頼性やアプリケーション固有の最適化を妨げている。