[論文レビュー] MEGAN: A Generative Adversarial Network for Multi-View Network Embedding

Yiwei Sun, Suhang Wang+3 more|arXiv (Cornell University)|Aug 20, 2019

Advanced Graph Neural Networks参考文献 17被引用数 4

ひとこと要約

MEGANは、個々のビュー内の接続性とビュー間相関を同時にモデル化することで、低次元で非線形かつ情報保持型のノード表現を学習する、マルチビュー・ネットワーク埋め込みのための新規な生成的対抗的ネットワーク（GAN）フレームワークを提案する。実世界のマルチビュー・ネットワーク（Flickr や Last.fm など）におけるノード分類、リンク予測、可視化のタスクにおいて、MEGANは最先端の手法を上回る性能を示した。

ABSTRACT

Data from many real-world applications can be naturally represented by multi-view networks where the different views encode different types of relationships (e.g., friendship, shared interests in music, etc.) between real-world individuals or entities. There is an urgent need for methods to obtain low-dimensional, information preserving and typically nonlinear embeddings of such multi-view networks. However, most of the work on multi-view learning focuses on data that lack a network structure, and most of the work on network embeddings has focused primarily on single-view networks. Against this background, we consider the multi-view network representation learning problem, i.e., the problem of constructing low-dimensional information preserving embeddings of multi-view networks. Specifically, we investigate a novel Generative Adversarial Network (GAN) framework for Multi-View Network Embedding, namely MEGAN, aimed at preserving the information from the individual network views, while accounting for connectivity across (and hence complementarity of and correlations between) different views. The results of our experiments on two real-world multi-view data sets show that the embeddings obtained using MEGAN outperform the state-of-the-art methods on node classification, link prediction and visualization tasks.

研究の動機と目的

• 非線形かつ低次元の埋め込みを用いて複数のネットワークビューからの情報を統合することで、マルチビュー・ネットワーク表現学習におけるギャップを埋める。
• 単一ビュー GAN に欠けている、マルチビュー・ネットワークにおけるビュー内接続性とビュー間相関の両方をモデル化する課題に取り組む。
• 敵対的サンプルを生成する GAN ベースのフレームワークを設計し、学習済み埋め込みのロバスト性と表現品質を向上させる。
• 下流タスクのラベル付きデータを必要とせずに、マルチビュー・ネットワーク埋め込みの教師なし学習を可能にする。
• 提案手法が、複数の評価タスクにおいて、既存の最先端手法を上回ることを実証する。

提案手法

• 共有された潜在空間から敵対的ノード埋め込みをマッピングするジェネレータネットワークを設計し、マルチビュー・ネットワーク構造の再構築を学習する。
• ジェネレータが生成する敵対的サンプルと、実際のマルチビュー・ネットワークサンプルを区別するためのディスクラミネータを構築し、ビュー内およびビュー間の接続パターンを併用する。
• ジェネレータがディスクラミネータをだませるように、ミニマックス目的関数を用いてジェネレータとディスクラミネータを敵対的に訓練する。
• 各ビュー内の接続性を保持するとともに、ビュー間相関を捉えることで、マルチビュー情報の統合を実現する。
• 潜在表現の視点間整合性を高めるために、コントラスト損失を導入する。
• t-SNE を用いて学習済み埋め込みの可視化を行い、クラスタリング品質と構造的一致性を評価する。

実験結果

リサーチクエスチョン

• RQ1 ビュー内接続性とビュー間相関を同時にモデル化することで、GAN ベースのフレームワークがマルチビュー・ネットワークに対して、低次元で非線形な埋め込みを効果的に学習できるか？
• RQ2 複数のビューにわたる補完的情報を統合することで、単一ビューまたはマルチビューのベースラインと比較して、ネットワーク表現の品質がどの程度向上するか？
• RQ3 実世界のマルチビュー・ネットワークにおいて、ノード分類、リンク予測、可視化タスクにおいて、MEGAN は既存の最先端手法をどの程度上回るか？
• RQ4 MEGAN の性能は埋め込み次元の選択にどの程度敏感であり、最適な次元は何か？
• RQ5 MEGAN の敵対的訓練スキームは、ノイズが多いまたは不完全なネットワーク構造が存在する状況でも、ロバスト性と一般化性能を向上させるか？

主な発見

• ノード分類タスクにおいて、MEGAN は最先端の性能を達成し、Flickr および Last.fm データセットの両方で埋め込み次元が 128 のときに最適な結果を示した。
• リンク予測タスクにおいて、MEGAN は単一ビュー GAN の対応手法（GraphGAN）および他のマルチビュー手法を上回り、ビュー間情報統合の有効性を示した。
• t-SNE を用いた可視化タスクでは、MEGAN が生成した埋め込みは、他の手法と比較して、ユーザーの関心分野のクラスタがより密で、明確に分離された形状を示した。
• 異なるビューにおいても、MEGAN の性能は安定しており、リンク密度や信頼性のばらつきがある個々のビューに対しても、一貫したベースライン上回る改善を示した。
• 複数のビューが補完的情報を提供する状況では、特に単一のビューが正確な予測に必要なすべての情報を含まない場合に顕著な性能向上が見られた。
• アブレーションスタディの結果、ビュー内とビュー間の構造を同時にモデル化することで、個別にモデル化するのと比較して、より優れた表現学習が達成されることが確認された。