[論文レビュー] Attributed Network Embedding for Incomplete Attributed Networks

Chengbin Hou, Shan He+1 more|arXiv (Cornell University)|Nov 28, 2018

Advanced Graph Neural Networks参考文献 29被引用数 7

ひとこと要約

本稿では、欠損した属性付きネットワークにおけるノード埋め込みを学習するための新規手法であるAttributed Biased Random Walks (ABRW) を提案する。構造的および属性的情報を統合して密度の高い遷移行列を構築することで、欠損データの影響を軽減する。6つの実世界データセットにおいてリンク予測およびノード分類の性能が向上し、欠損リンクや属性に対しても頑健であることが示された。

ABSTRACT

Attributed networks are ubiquitous since a network often comes with auxiliary attribute information e.g. a social network with user profiles. Attributed Network Embedding (ANE) has recently attracted considerable attention, which aims to learn unified low dimensional node embeddings while preserving both structural and attribute information. The resulting node embeddings can then facilitate various network downstream tasks e.g. link prediction. Although there are several ANE methods, most of them cannot deal with incomplete attributed networks with missing links and/or missing node attributes, which often occur in real-world scenarios. To address this issue, we propose a robust ANE method, the general idea of which is to reconstruct a unified denser network by fusing two sources of information for information enhancement, and then employ a random walks based network embedding method for learning node embeddings. The experiments of link prediction, node classification, visualization, and parameter sensitivity analysis on six real-world datasets validate the effectiveness of our method to incomplete attributed networks.

研究の動機と目的

• リンクとノード属性の両方が欠損している不完全な属性付きネットワークにおける効果的なノード埋め込みの学習という課題に取り組む。
• 欠損した構造的または属性的情報によるデータスパarsityに起因する既存のPNEおよびANE手法の限界を克服する。
• 構造的および属性的情報を統合して、より密度の高いネットワークを再構築する統一的なフレームワークを構築し、埋め込み品質の向上を図る。
• 引用ネットワークやソーシャルネットワークを含む、さまざまな不完全度を示す実世界ネットワークにおいても頑健であることを保証する。
• オブジェクトベースのデータに一般化可能であり、複数の情報源を遷移行列として表現できる任意のデータに適用可能である方法を提供する。

提案手法

• ネットワーク構造（ランダムウォークを用いて）から1つの遷移行列と、ノード属性（特徴ベクトルのコサイン類似度を用いて）から別の遷移行列をそれぞれ構築する。
• バランスハイパーパrameter α を用いて、構造的および属性的情報の寄与度を調整し、2つの遷移行列を偏り付きの遷移行列に統合する。
• 統合された遷移行列上で重み付きランダムウォークを実行し、構造的および属性的近接性を両方保持するノードシーケンスを生成する。
• ランダムウォークシーケンス上でスイップグラムモデルを学習し、ネットワークトポロジと属性意味を両方捉えた低次元ノード埋め込みを学習する。
• 再構築された密度の高いネットワークを埋め込み学習の基盤とする。これにより、欠損したリンクや属性を情報統合によって補完する。
• 情報フローとネットワーク密度を制御するため、ハイパーパrameter α（構造と属性のバランス）および top-k（保持する属性的に類似した近隣ノード数）を統合する。

実験結果

リサーチクエスチョン

• RQ1 不完全な構造的情報と属性的情報から、統一された密度の高いネットワークを再構築できるか。その結果、ノード埋め込み品質が向上するか。
• RQ2 バランスハイパーパrameter α が制御する構造的および属性的情報の寄与度のバランスが、リンク予測およびノード分類の性能に与える影響は何か。
• RQ3 属性的に類似した近隣ノードの top-k 保持が、スパースなネットワークにおける埋め込みの頑健性にどの程度寄与するか。
• RQ4 ABRWは、不完全な属性付きネットワークにおいて、既存のPNEおよびANE手法と比較して、下流タスクの性能で優れているか。
• RQ5 本手法は、異なる種類のネットワーク（例：引用ネットワーク対ソーシャルネットワーク）に一般化可能か。特に、不完全度の異なる状況においても有効か。

主な発見

• ABRWは、リンク予測において6つの実世界データセット（引用ネットワークおよびソーシャルネットワークを含む）で最先端の性能を達成した。
• 引用ネットワークでは、異なるα値に対しても性能が同等に保たれ、構造的情報と属性情報の両方が個別に有用であることが示された。
• ソーシャルネットワークでは、αを高く（構造的要因を重視する）設定した場合に優れた結果が得られた。これは、属性情報がスパースにしか利用できない一方で、構造的情報の方が信頼性が高いことを示している。
• ソーシャルネットワークでは、構造的接続が豊富であるため、top-k ハイパーパrameter の影響が最小限に抑えられ、埋め込みプロセスが安定している。
• 感度分析により、ABRWがハイパーパrameter の選択に対して頑健であることが確認された。特に構造的情報が豊富な場合に顕著であった。
• 不完全なネットワークにおいて、ベースラインのPNEおよびANEモデルを上回る性能を示し、情報統合による欠損データ補完の有効性を実証した。