[論文レビュー] RankMerging: A supervised learning-to-rank framework to predict links in large social network

Lionel Tabourier, Daniel Faria Bernardes+2 more|arXiv (Cornell University)|Jul 9, 2014

Complex Network Analysis Techniques参考文献 33被引用数 4

ひとこと要約

この論文では、複数の非教師ありリンク予測順序付け結果を統合することで、大規模なソーシャルネットワークにおける性能を向上させる、監視付き学習による順序付けフレームワークであるRankMergingを提案する。共通の隣接ノード、ランダムウォーク、および局所的／中間的指標といった多様な順序付け特徴の最適な重みを学習することにより、特に予測件数が多い場合に優れた予測精度とスケーラビリティを達成し、計算複雑性は予測件数に線形に比例する。

ABSTRACT

Uncovering unknown or missing links in social networks is a difficult task because of their sparsity and because links may represent different types of relationships, characterized by different structural patterns. In this paper, we define a simple yet efficient supervised learning-to-rank framework, called RankMerging, which aims at combining information provided by various unsupervised rankings. We illustrate our method on three different kinds of social networks and show that it substantially improves the performances of unsupervised metrics of ranking. We also compare it to other combination strategies based on standard methods. Finally, we explore various aspects of RankMerging, such as feature selection and parameter estimation and discuss its area of relevance: the prediction of an adjustable number of links on large networks.

研究の動機と目的

• 従来の分類手法がスケーラビリティとクラス不均衡の問題に直面する、大規模でスパースなソーシャルネットワークにおける欠落または未知のリンク予測という課題に対処すること。
• 推薦システムなどの実用的応用において特に重要な、予測件数を簡単に設定できる手法を開発すること。
• 共通の隣接ノード、ランダムウォーク、到達時間といった複数の非教師あり順序付け特徴を、監視付き学習を用いて統合し、1つのより正確な順序付けにすること。
• 順序付けに最大10^8件のアイテムを含む大規模ネットワークにおいても、計算効率と頑健性を確保すること。
• 多様な実世界ネットワーク（PSP、DBLP、Pokec）上でフレームワークを評価し、標準的な統合戦略を上回ることを示すこと。

提案手法

• RankMergingは、非教師あり順序付け（例：共通の隣接ノード、ランダムウォーク、到達時間）を統合し、監視付き学習による順序付け学習を用いて最適化された1つの順序付けを生成する。
• 正例と負例のリンクペアの相対順序が正しくない場合にペナルティを課す損失関数を最小化することで、入力順序付けの重み付き組み合わせを学習する。
• 各順序付けに重みを割り当て、ノードペアの最終スコアを個々の順序付けスコアの重み付き和として計算する線形モデルを用いる。
• トレーニングデータとして既知のリンクと負例サンプルを用い、交差検証によるハイパーパramータチューニングを伴う確率的勾配降下法で最適化を実行する。
• 計算効率を考慮し、時間計算量はα・θのオーダー（O(α·θ)）である。ここでαは入力順序付けの数、θは予測件数を表す。
• 上位θ件の順位付きペアを選択することで、予測件数を調整可能であり、特定の数の推薦を必要とする応用に適している。

実験結果

リサーチクエスチョン

• RQ1 監視付き学習による順序付けフレームワークは、複数の非教師ありリンク予測順序付けを効果的に統合し、全体の予測精度を向上させることができるか？
• RQ2 大規模ネットワークにおいて、RankMergingはBordaや重み付きBordaといった標準的な統合戦略と比較して、どのように性能を発揮するか？
• RQ3 冗長またはノイズの多い入力順序付けや特徴選択の変動に対して、RankMergingはどの程度頑健か？
• RQ4 特に上位k件の順位において、大量のリンクを予測する場合に、性能が維持されるか？
• RQ5 ネットワークサイズや入力順序付けの数の増加に伴い、計算コストはどのように変化するか？

主な発見

• RankMergingは、3つのデータセット（PSP、DBLP、Pokec）すべてにおいて、個々の非教師あり順序付け手法やBorda、重み付きBordaといった標準的な統合戦略を顕著に上回った。
• DBLPおよびPokecネットワークでは、すべてのベースライン手法よりも高い精度と正規化済み累積利益割合（nDCG）を達成したが、特に予測件数が多い場合に顕著であった。
• 性能の劣化が見られなかったことから、冗長または相関の高い順序付けを追加しても、RankMergingは安定性を示した。これは特徴選択の安定性を示している。
• 計算効率は高く、RankMergingと重み付きBordaの実行時間はほぼ同等であり、両者とも予測件数に線形に比例（O(α·θ)）してスケーリングした。
• 入力順序付けが補完的である場合に特に効果的であり、コンSENSUSベースの手法よりも、学習による順序付けが多様な構造的特徴をより効果的に活用できることを示した。
• PSPネットワークでは、順序付けのサイズが小さい（約10^5件）ため、局所的指標は高速に計算可能であったが、RWRのようなグローバル指標はDBLPおよびPokecでは計算コストが高すぎて実行不可能であった。