[論文レビュー] Principled Multilayer Network Embedding

Weiyi Liu, Pin‐Yu Chen+3 more|arXiv (Cornell University)|Sep 11, 2017

Complex Network Analysis Techniques参考文献 21被引用数 10

ひとこと要約

本稿では、ネットワーク集約、結果集約、レイヤー共同分析の3つの手法を用いて、マルチレイヤーネットワーク埋め込みの原則的フレームワークを提案する。レイヤー共同分析法は、リンク遷移確率を介してレイヤー間遷移をモデル化するが、すべてのレイヤーを同時に分析しながらレイヤー間相互作用を保持することで、複数のデータセットにおいてリンク予測で最先端の性能を達成する。

ABSTRACT

Multilayer network analysis has become a vital tool for understanding different relationships and their interactions in a complex system, where each layer in a multilayer network depicts the topological structure of a group of nodes corresponding to a particular relationship. The interactions among different layers imply how the interplay of different relations on the topology of each layer. For a single-layer network, network embedding methods have been proposed to project the nodes in a network into a continuous vector space with a relatively small number of dimensions, where the space embeds the social representations among nodes. These algorithms have been proved to have a better performance on a variety of regular graph analysis tasks, such as link prediction, or multi-label classification. In this paper, by extending a standard graph mining into multilayer network, we have proposed three methods ("network aggregation," "results aggregation" and "layer co-analysis") to project a multilayer network into a continuous vector space. From the evaluation, we have proved that comparing with regular link prediction methods, "layer co-analysis" achieved the best performance on most of the datasets, while "network aggregation" and "results aggregation" also have better performance than regular link prediction methods.

研究の動機と目的

• 複数の関係タイプを有する複雑なシステムをモデル化するためにますます利用されているマルチレイヤーネットワークにおける原則的グラフ埋め込み手法の欠如に取り組むこと。
• 単一レイヤーのネットワーク埋め込み手法を、レイヤー間相互作用や構造的関係を保持したままマルチレイヤーネットワークに拡張すること。
• ネットワーク集約と共同分析の戦略を比較評価し、マルチレイヤーネットワークを低次元ベクトル空間に投影する方法を検討すること。
• レイヤー間相互作用を活用することで、リンク予測などの後続タスクにおける性能向上が図られることを示すこと。
• 属性付きマルチレイヤーネットワーク、重み付きネットワーク、および自動パラメータ学習への今後の研究の基盤を築くこと。

提案手法

• ネットワーク集約は、すべてのレイヤーを1つの重み付きネットワークに統合し、結合されたグラフに対して標準の単一レイヤー埋め込みアルゴリズムを適用する。
• 結果集約は、各レイヤーに対して標準の埋め込みを個別に適用し、その後得られたベクトル空間を連結または統合して統一された表現を生成する。
• レイヤー共同分析は、単一レイヤー埋め込みを拡張し、層間遷移確率 r を導入することで、レイヤー内およびレイヤー間を横断するランダムウォークを可能にする。
• この手法は情報距離を用いてリンク遷移確率を計算し、構造的類似性に基づいて知的にレイヤー間を切り替えることができる。
• このフレームワークは汎用的であり、DeepWalk や LINE、node2vec などの任意の単一レイヤー埋め込み手法に対して、ランダムウォーク手順を変更するだけで適用可能である。
• 遷移確率 r は、同じレイヤーに留まる確率（r が大きい場合）または他のレイヤーに移る確率（r が小さい場合）を制御し、マルチレイヤー構造の柔軟な探索を可能にする。

実験結果

リサーチクエスチョン

• RQ1 標準の単一レイヤー埋め込み手法を、レイヤー間相互作用を保持したままマルチレイヤーネットワークに効果的に拡張できるか？
• RQ2 遷移確率 r を用いてレイヤー間遷移をモデル化することで、学習されたノード表現の質がどのように変化するか？
• RQ3 レイヤー間構造的関係を組み込むことで、集約ベースのアプローチと比較してリンク予測の性能が向上するか？
• RQ4 ネットワーク集約、結果集約、レイヤー共同分析の各手法が、多様なマルチレイヤーデータセットにおいて予測精度の観点でどのように比較されるか？
• RQ5 このフレームワークは、重み付きマルチレイヤーネットワークや属性付きマルチレイヤーネットワークに一般化可能か？

主な発見

• レイヤー共同分析法は、リンク予測タスクにおいて大多数のデータセットで最良の性能を達成し、標準のリンク予測手法および集約ベースのアプローチを上回った。
• AUCS データセットでは、レイヤー共同分析法が AUC スコア 0.850、F1 スコア 0.710 を達成し、結果集約（AUC: 0.710、F1: 0.550）を顕著に上回った。
• ネットワーク集約と結果集約の両方が、ベースラインのリンク予測手法よりも性能が向上しており、レイヤー間の情報を統合することで表現品質が向上することを示している。
• 本手法は、テロリスト、VC、LN データセットを含む多様なデータセットにおいても、AUC および F1 スコアの面で一貫した改善を示し、ロバスト性を示した。
• 図4のレイヤー距離分析から、共通のコラボレーションや昼食という類似したトポロジー構造を持つレイヤー（例：コラボレーションと昼食）は距離が小さく、情報距離を用いた遷移確率モデリングに適していることが裏付けられた。
• 著者らは、レイヤー共同分析法が、強いレイヤー間接続性を示すデータセットにおいて高い性能を発揮することから、効果的にレイヤー間関係を捉えていると観察した。