[論文レビュー] Similarity-based Link Prediction from Modular Compression of Network Flows

Christopher Blöcker, Jelena Smiljanić+2 more|arXiv (Cornell University)|Aug 30, 2022

Complex Network Analysis Techniques被引用数 5

ひとこと要約

この論文では、マップ方程式フレームワークを用いたネットワークフローのモジュラー圧縮に基づく情報理論的ノード類似度測度であるMapSimを紹介する。埋め込みベースの手法とは異なり、MapSimはコミュニティの離散的・非メトリック空間で動作し、ハイパーパrameterのチューニングなしで非対称類似度を可能とし、47のネットワークにおけるリンク予測において、競合手法よりも平均で7%の性能向上を達成しており、11のネットワークですべての埋め込み手法を上回っている。

ABSTRACT

Node similarity scores are a foundation for machine learning in graphs for clustering, node classification, anomaly detection, and link prediction with applications in biological systems, information networks, and recommender systems. Recent works on link prediction use vector space embeddings to calculate node similarities in undirected networks with good performance. Still, they have several disadvantages: limited interpretability, need for hyperparameter tuning, manual model fitting through dimensionality reduction, and poor performance from symmetric similarities in directed link prediction. We propose MapSim, an information-theoretic measure to assess node similarities based on modular compression of network flows. Unlike vector space embeddings, MapSim represents nodes in a discrete, non-metric space of communities and yields asymmetric similarities in an unsupervised fashion. We compare MapSim on a link prediction task to popular embedding-based algorithms across 47 networks and find that MapSim's average performance across all networks is more than 7% higher than its closest competitor, outperforming all embedding methods in 11 of the 47 networks. Our method demonstrates the potential of compression-based approaches in graph representation learning, with promising applications in other graph learning tasks.

研究の動機と目的

• 埋め込みベースのリンク予測の限界、すなわちハイパーパrameterへの感受性、対称的類似度、低解釈可能性を是正すること。
• ネットワークのモジュラー構造に基づいた、教師なしで解釈可能な類似度測度の開発。
• フローに基づく圧縮を活用することで、特に有向ネットワークにおいてリンク予測の精度を向上させること。
• 圧縮に基づくアプローチがグラフ表現学習において実用的であることを示すこと。
• 次元削減を伴わない、非メトリックで離散的な類似度空間を提供し、非対称類似度スコアを自然に得られること。

提案手法

• MapSimは、マップ方程式を用いて、ネットワークフローをモジュラー圧縮により離散的コミュニティ空間に符号化することでノード類似度を計算する。
• ノードが属するモジュール内の語呂長（codeword length）に基づいてリンクの記述長を導出する。記述長が短いほど類似度が高くなる。
• 類似度は、2つのノードを接続することで記述長が短くなる量として定義され、これによりコミュニティ内リンクが優遇される。
• この手法は教師なしで動作し、ハイパーパrameterのチューニングや下流の次元削減を必要としない。
• 有向ネットワークにおけるフロー圧縮の方向性により、自然に非対称類似度が得られる。
• 最小記述長原理を活用し、圧縮効率によって類似度を定量化する。

実験結果

リサーチクエスチョン

• RQ1 圧縮に基づく埋め込みではないアプローチが、最先端のノード埋め込み手法を上回ることができるか？
• RQ2 モジュラー・フローカンプレッションに基づく情報理論的類似度測度は、ベクトル空間埋め込みよりも正確で解釈可能な結果をもたらすか？
• RQ3 学習された埋め込みに依存せずに、離散的・非メトリック空間で非対称類似度を効果的に捉えることができるか？
• RQ4 MapSimは、対称的埋め込みが性能を発揮しない有向ネットワークを含め、多様なネットワークタイプにおいてどのように性能を発揮するか？
• RQ5 フロー圧縮によって明らかになるコミュニティ構造は、局所的トポロジーを越えてリンク予測をどの程度向上させるか？

主な発見

• MapSimは、47の実世界ネットワーク全体で、最も近い競合手法よりも平均して7%以上の性能向上を達成した。
• 評価された47のネットワークのうち11つで、MapSimはすべての埋め込みベース手法を上回った。これは、多様な環境下でも一貫した優位性を示している。
• この手法は、ハイパーパrameterのチューニング、モデルフィッティング、次元削減を一切必要とせず、高い精度を達成した。
• 有向ネットワークにおけるフロー圧縮の方向性により、MapSimは自然に非対称類似度を生成し、有向ネットワークでの性能向上を実現した。
• MapSimの情報理論的基盤により、類似度が圧縮効率とコミュニティ構造に基づくため、解釈可能性が保証された。
• 結果から、圧縮に基づくアプローチが、グラフ表現学習における埋め込みベースの手法の強力な代替手段となり得ることが示唆された。